تقوم Google بترقية البحث في محرك الأقراص لمعالجة المواد الإباحية العميقة

افتح ملخص المحرر مجانًا

رولا خلف، محررة الفايننشال تايمز، تختار قصصها المفضلة في هذه النشرة الأسبوعية.

تجري شركة جوجل تغييرات على محرك البحث الخاص بها في محاولة لمعالجة المواد الإباحية المزيفة، في الوقت الذي تتصارع فيه صناعة التكنولوجيا مع الآثار الاجتماعية بعيدة المدى للذكاء الاصطناعي التوليدي.

إن التقدم في الذكاء الاصطناعي التوليدي يعني أن الصور المزيفة أصبحت أكثر واقعية وأسهل في الإنشاء، مما دفع الخبراء إلى التحذير من أن استخدام الأشخاص، دون علمهم أو موافقتهم، في الصور الإباحية أصبح أكثر انتشارًا.

تتضمن الإجراءات التي قدمتها شركة التكنولوجيا العملاقة يوم الأربعاء تغييرات من شأنها أن تسهل على ضحايا المواد الإباحية العميقة إزالة مقاطع الفيديو والصور الخاصة بهم من الإنترنت.

يحتاج الأفراد حاليًا إلى تقديم طلبات إزالة لكل عنوان موقع ويب أو عنوان URL. ستؤدي التغييرات الأخيرة إلى حذف النتائج الصريحة لمصطلحات البحث ذات الصلة التي تتضمن اسم الشخص. سيقوم عملاق البحث أيضًا بتخفيض تصنيف المواقع التي تلقت عددًا كبيرًا من إشعارات الإزالة.

وقالت جوجل في تدوينة يوم الأربعاء: “بالإضافة إلى ذلك، عندما ينجح شخص ما في إزالة صورة من البحث بموجب سياساتنا، ستقوم أنظمتنا بالبحث عن – وإزالة – أي نسخ مكررة من تلك الصورة نجدها”.

تسعى شركات مثل جوجل وميتا وإكس جاهدة لمعالجة التزييف العميق على منصاتها – الصور والفيديو والصوت التي يمكن إنشاؤها باستخدام الذكاء الاصطناعي على غرار الأفراد في القطاعين العام والخاص. وفي الأسبوع الماضي، دعا مجلس الرقابة المستقل التابع لشركة ميتا الشركة إلى تعزيز قواعدها بشأن إزالة المواد الإباحية العميقة.

وقالت إيما هيغام، مديرة منتجات جوجل التي شاركت في معركة الشركة ضد التزييف العميق: “نحن في منتصف تحول تكنولوجي”. “بينما نراقب أنظمتنا، رأينا أن هناك زيادة في طلبات الإزالة لهذا النوع من المحتوى.”

وتخضع هذه القضية للتدقيق من قبل الجهات التنظيمية: فقانون السلامة على الإنترنت في المملكة المتحدة، الذي تم إقراره في أكتوبر/تشرين الأول، والذي يعتبر واحدًا من أكثر القوانين صرامة، يجعل من غير القانوني نشر المواد الإباحية العميقة غير التوافقية. في الولايات المتحدة، تستهدف التشريعات في العديد من الولايات أولئك الذين ينشئون ويشاركون محتوى صريحًا مزيفًا عميقًا.

وقالت كلير ماكجلين، أستاذة القانون في جامعة دورهام والتي تدرس اللوائح المتعلقة بالمواد الإباحية، إن محرك البحث كان بطيئا في منع مثل هذا المحتوى من الانتشار على الإنترنت.

وقالت: “إن تأخير جوجل في اتخاذ هذه الخطوات الواضحة والضرورية للحد من الاعتداءات الجنسية العميقة أمر لا يغتفر”. “تظل Google مسؤولة عن تسهيل الارتفاع الهائل في الاعتداء الجنسي على التزييف العميق من خلال تصنيفها العالي لتطبيقات التزييف العميق ومواقع الويب والبرامج التعليمية لسنوات عديدة.”

وقالت الشركة إنها خفضت كمية المحتوى الصريح المزيف العميق الذي ظهر في نتائج البحث الخاصة بها بنسبة 70 في المائة منذ بداية العام من خلال تغييرات السياسة الأولية والتحديثات المحدودة لمحرك البحث الخاص بها.

ومع ذلك، قالت الشركة إن هناك قيودًا على تحديثات السياسة. وقال هيغام إن موفري الوسائط الخارجيين لا يشاركون دائمًا بيانات الفيديو مع جوجل، مما يجعل من المستحيل اكتشاف نسخة مكررة محتملة.

وأضافت جوجل أنه قد تكون هناك “مقايضات” لفناني الأداء البالغين الذين يرغبون في مشاركة محتوى للبالغين بالتراضي على محرك البحث مع تصفية المواد غير التوافقية.

من شأن تعديلات جوجل على نظام تصنيف نتائج البحث الخاص بها أن تخفض مرتبة مواقع الويب التي ترتبط بمحتوى للبالغين غير موافق عليه تم إنشاؤه بواسطة الذكاء الاصطناعي مع الترويج لمواقع “عالية الجودة” غير صريحة، بما في ذلك المقالات الإخبارية.

وقال هيغام: “هذه تحديات تقنية لم يتم حلها لمحركات البحث”. “لذلك وصلنا إلى نقطة نشعر فيها أنه يمكننا الحصول على المزيد من الجذب.”

لدى الشركة سياسات واسعة النطاق لإزالة مواد الاعتداء الجنسي على الأطفال، وقد حظرت هذا العام الإعلان عن المواد الإباحية العميقة.

ولم تصل سياساتها الأخيرة إلى حد إلغاء فهرسة مواقع التزييف العميق الشهيرة من نتائج البحث تمامًا، وهي خطوة تطالب بها مجموعات المناصرة مثل #MyImageMyChoice.

وقالت جوجل إن حذف المواقع بالكامل قد يمنع الوصول إلى معلومات مهمة، مثل كيفية إزالة المحتوى من موقع ويب مضيف.