لماذا تقوم مقاطع فيديو مؤامرة الذكاء الاصطناعي بإرسال بريد عشوائي إلى وسائل التواصل الاجتماعي
ابق على اطلاع بالتحديثات المجانية
ببساطة قم بالتسجيل في الذكاء الاصطناعي myFT Digest – يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.
في مقطع فيديو انتشر على TikTok، يبدو أن مقدم البرامج الشهير جو روغان يوجه رسالة دامغة: “من المحتمل أن نموت جميعًا في السنوات القليلة المقبلة. هل سمعت عن هذا؟ هناك هذا الكويكب الذي في مسار تصادمي مع الأرض”. ويصر على أن هذه المعلومات ظلت سرية للغاية من قبل الدولة، ولكن تم تسريبها بعد ذلك من قبل موظف وكالة أمريكية يدعى جوناثان براون.
ويقول الخبراء إن الفيديو في الواقع مزيف. في حين أن الصور لروجان، يبدو أن الصوت عبارة عن نسخة مزيفة من صوته تم إنشاؤها بواسطة الذكاء الاصطناعي، وفقًا لمنظمة Media Matters غير الربحية. والكويكب الذي تستر عليه الحكومة؟ نظرية مؤامرة لا أساس لها من الصحة. لا يوجد ما يشير إلى أن روغان كان متورطًا عن قصد في المقطع.
يعد المنشور، الذي أزاله TikTok في النهاية، جزءًا من ظاهرة ناشئة حيث يقوم منشئو المحتوى عبر الإنترنت ببث مقاطع فيديو محملة بالمؤامرة عبر منصات التواصل الاجتماعي، غالبًا بمساعدة أدوات الذكاء الاصطناعي الجديدة. حصدت المؤامرات ملايين المشاهدات، وتتراوح من الخيال البسيط إلى الجنون التام – مثل أن وكالة المخابرات المركزية قد أخفت “كلب الجحيم” الأسطوري في كهف في جراند كانيون، على سبيل المثال – وتميل إلى اتباع نمط مميز.
يقول آبي ريتشاردز، كبير منتجي الفيديو في شركة Media Matters، الذي كان يتتبع مواد المؤامرة، التي عادة ما يتم تحسينها أو إنشاؤها بالكامل بواسطة الذكاء الاصطناعي: “تبدأ ببيان مضطرب لجذب الانتباه – وهو خطاف فيروسي”. “ثم لديك قصة خلفية مع شخصية مزيفة عادة ما تكون قاسية للغاية ثم يكتشفون نوعًا من السر.”
وقال متحدث باسم TikTok إن نظريات المؤامرة “ليست مؤهلة لكسب المال” وأن المعلومات الخاطئة الضارة محظورة على التطبيق.
عادةً لا يقوم مرتكبو هذا المحتوى بنشره لأنهم يحاولون التلاعب بالرأي. يعد هذا مسعى ربحيًا لجذب المشاركة من أجل الحصول على أموال من المنصات، والتي يكافئ الكثير منها منشئي المحتوى ماليًا مقابل عدد مرات المشاهدة العالية.
“إن محتوى نظرية المؤامرة التي أنشأها الذكاء الاصطناعي لكسب المال هو خلاصة اللحظة المثالية [where] يقول الدكتور جين جولبيك، الأستاذ بجامعة ميريلاند، كوليدج بارك، الذي يركز على وسائل التواصل الاجتماعي والمؤامرات: “نحن في النظام البيئي للإنترنت في الوقت الحالي”.
وبعيدًا عن البقرة الحلوب، يستفيد هذا النوع من الأدب من الجاذبية المتزايدة لمثل هذه النظريات وسط تزايد انعدام الثقة في الحكومات، وانتشار الروايات التآمرية في السنوات الأخيرة، على حد قولها. “يندمج هذا مع الدفع الخوارزمي للمحتوى الأكثر جاذبية [by the social media platforms]”، مما يدفعنا إلى رؤية أشياء أكثر تطرفًا وأكثر حداثة”، كما تقول.
نظريات المؤامرة ليست حالات الاستخدام غير المرغوب فيها الوحيدة الناشئة عن طفرة الذكاء الاصطناعي. وجد تقرير نشره هذا الأسبوع باحثون من جامعتي ستانفورد وجورجتاون أن أكثر من مائة صفحة غير مرغوب فيها تم إنشاؤها بواسطة الذكاء الاصطناعي تغمر خلاصات فيسبوك بفن شديد الواقعية وأحيانًا غريبة (أحد الأمثلة على هذا الأخير هو “Shrimp Jesus”، وهو يسوع الذي جسده مصنوعة من الجمبري). بعد أن تمت مكافأتها من خلال خوارزميات تطبيق Meta وحصد ملايين المشاهدات، تحاول الصفحات بعد ذلك توجيه المشاهدين خارج النظام الأساسي إلى المواقع التي قد تبيع منتجات مراوغة، على سبيل المثال.
يحذر جوش غولدستين، زميل باحث في مركز جورج تاون للأمن والتكنولوجيا الناشئة والمؤلف المشارك للتقرير، من أن نجاح مثل هذا المحتوى قد يعني أن الجهات الفاعلة الشريرة “سوف تستخدم صور الذكاء الاصطناعي لبناء” متابعين قبل التركيز على نشر الانتخابات. – المعلومات المضللة ذات الصلة، على سبيل المثال.
وفي كلتا الحالتين، من الواضح أن منصات التواصل الاجتماعي يجب أن تنشئ وتنفذ قواعد أكثر وضوحًا حول استخدام الذكاء الاصطناعي في تطبيقاتها. يعد تقديم تصنيف للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بمثابة خطوة أولى. يجب على المنصات أيضًا تعديل برامج دفع تعويضات المبدعين الخاصة بها لضمان عدم تحفيز المؤثرين للتلاعب بالنظام. قالت TikTok، التي تواجه حظرًا محتملاً في الولايات المتحدة، إنها قدمت هذا الأسبوع برنامجًا جديدًا لمكافآت منشئي المحتوى يركز على المحتوى الأصلي عالي الجودة.
يقول هاني فريد، أستاذ الطب الشرعي الرقمي بجامعة كاليفورنيا في بيركلي: “هذه هي المشكلة المستمرة منذ عقود، وهي أن نموذج الأعمال الخاص بوسائل التواصل الاجتماعي هو اقتصاد الاهتمام”. أضف إلى ذلك الذكاء الاصطناعي بدون حواجز حماية، وسيصبح الإنترنت أكثر “بؤسًا”، كما يتابع. تصرف الآن، أو “نحن القرود”. . . نجلس هناك ونضرب بينما يراقب أسياد الذكاء الاصطناعي لدينا.
هانا.مورفي@ft.com
