عمالقة محركات البحث يتعرضون لانتقادات شديدة بسبب إضافة محتوى صريح يعمل بالذكاء الاصطناعي Deepfake في أعلى نتائج البحث
تتعرض محركات البحث الرائدة في العالم حاليًا لانتقادات شديدة بسبب بعض السلوكيات الصادمة التي أعلنتها شبكة NBC News مؤخرًا.
تم استدعاء DuckDuckGo وGoogle وBing لإضافة المواد الإباحية AI Deepfake إلى أعلى نتائج محرك البحث الخاصة بهم. لقد سلط هذا الضوء بالفعل على بعض المخاوف الرئيسية المتعلقة باستخدام المواد الإباحية القائمة على الذكاء الاصطناعي وسهولة الوصول إليها.
مقاطع الفيديو المعنية صريحة ويتم إنتاجها عبر مواد إباحية حقيقية. التغيير الوحيد هو أنهم يغيرون وجه الممثل لجعل الفرد يبدو حقيقيًا قدر الإمكان، مثل إضافة أحد المشاهير. ويتم ذلك من خلال وسائل آلية بواسطة الذكاء الاصطناعي وفي النهاية، يُطلب من المستخدمين الذين يصنعون المنتج فقط تغذية الأنظمة بالذكاء الاصطناعي إلى جانب صور الضحية.
وفقًا للاختبارات التي أجرتها وسائل الإعلام NBC News عبر الإنترنت، استخدم 36 من المشاهير من أصل إناث مجموعة من الأسماء والكلمات مثل التزييف العميق. وأضاف أحد الأشخاص أن رؤية النتائج الصريحة التي تظهر في الجزء العلوي من البحث أمر يتجاوز الصدمة.
انتهى Google بإرجاع 34 نتيجة من أكثر النتائج التي تم البحث عنها، ثم أعاد Bing 35 نتيجة. وقد شوهدت مشكلات مماثلة مع DuckDuckGo، حيث كانت بها مشكلات مشابهة إلى حد كبير. ولم يتم بعد تحديد حجم المشكلة.
وفي الوقت نفسه، اشتكت NBC News من أن المقالات ذات الصلة المتعلقة بمسألة المواد الإباحية العميقة غير التوافقية كانت تعرض هذه الصور غير المشروعة قبل نتائج البحث الفعلية التي يطلبها المستخدم. وكان هذا أكثر شيوعًا عند استخدام مصطلح العراة المزيفة.
ومن الجدير بالذكر كيف قامت NBC News أولاً بإيقاف تشغيل ميزات الأمان لـ Bing وGoogle لرؤية التأثير ينشأ عندما لا تكون هناك إجراءات وقائية. يُعرف كلا محركي البحث بمستويات حماية السلامة الخاصة بهما والتي تعمل بشكل افتراضي لمنح المتصفح تجربة البحث الأفضل والأكثر أمانًا.
وفي الوقت نفسه، أجرى Neowin أيضًا اختباراته المحددة على هذه الجبهة وأثبت كيف لم يتم عرض الصور الفاضحة لـ Bing في الإصدار الافتراضي عند البحث عن الصور المزيفة العميقة. ومع ذلك، كان من المثير للقلق أن نشهد كيف ربطت بعض صفحات الويب بمحتوى غير مناسب لإنتاج صور مزيفة بتقنية الذكاء الاصطناعي.
عرضت Google صورًا صريحة عندما تم تنشيط الإعداد الافتراضي، ولكن الصور كانت غير واضحة ولم يتم عرضها بالكامل إلا بعد إخطار المستخدمين بالطبيعة الصريحة للصورة. وفي الوقت نفسه، تم منح المستخدمين أيضًا الفرصة للضغط على الزر عن طيب خاطر إذا كانوا يرغبون في رؤية الصورة الحقيقية.
تجدر الإشارة إلى سهولة وصول المستخدمين إلى المواد الإباحية التي تعتمد على تقنية الذكاء الاصطناعي، وهي لا تزال تمثل مشكلة خطيرة في يومنا هذا وفي عصرنا هذا. يمكن لأي شخص يبحث عن مثل هذا المحتوى أن يقوم بإيقاف تشغيل أي ميزات مضمنة مصممة للحماية.
يجب إيقاف مثل هذا السلوك عن طريق إضافة وسائل حماية تقنية متقدمة قد تتضمن منع الصفحات التي تروج لهذا المحتوى من البحث أو ببساطة حظرها بالكامل.
وهذا من شأنه أن يحد بشكل كبير من الجانب الضار المرتبط ببحث المستخدم، حيث أن أكثر من 50% من أفضل نتائج البحث في الاختبارات تتألف من روابط لمواقع الويب الشهيرة ذات التزييف العميق.
كانت شركة البرمجيات العملاقة مايكروسوفت هي الشركة الوحيدة التي فشلت في الاستجابة لطلبات التعليق من قبل شبكة إن بي سي نيوز. يأخذ الآخرون الأمر على محمل الجد ويدركون مدى خطورة رؤية مثل هذه الأفعال.
تظهر مثل هذه الأخبار مدى الضرر الذي يمكن أن يسببه الذكاء الاصطناعي وكيف يتم استخدام التكنولوجيا لأغراض غير أخلاقية وخبيثة. منذ عدة أشهر، شهدنا كيف تستمر تقنية Deepfakes في العمل كمشكلة رئيسية في مجالات أخرى أيضًا. تشمل الأمثلة الشائعة عالم السياسة.
عمالقة التكنولوجيا مثل مايكروسوفت هي إحدى هذه الشركات التي تأمل في التوصل إلى برامج للكشف عن التزييف العميق بسهولة ومنع الناس من إساءة استخدام التكنولوجيا قبل بدء فترة الانتخابات.
من ناحية أخرى، تبحث لجنة التجارة الفيدرالية (FTC) عن أفضل الأفكار للعثور على التسجيلات الصوتية المزيفة أو التي تم إنشاؤها من خلال الذكاء الاصطناعي. هناك منافسة مستمرة بسعر مذهل قدره 25 ألف دولار للفائز الذي يمكنه إيجاد حل لتحدي استنساخ الصوت. والموعد النهائي هو اليوم.
تعليقات
إرسال تعليق