متعاقد الأزمات لـ OpenAI وAnthropic يتطلع لمكافحة التطرف

سيدني، أستراليا – الأشخاص الذين يظهرون ميولًا متطرفة عنيفة على ChatGPT سيتم توجيههم إلى دعم مكافحة التطرف القائم على البشر وروبوتات الدردشة من خلال أداة جديدة قيد التطوير في نيوزيلندا، وفقًا للأشخاص الذين يقفون وراءها.

تعد هذه المبادرة أحدث محاولة لمعالجة مخاوف السوق في مواجهة عدد متزايد من الدعاوى القضائية التي تتهم شركات الذكاء الاصطناعي بالفشل في إيقاف العنف، بل وحتى تمكينه.

تعرضت OpenAI للتهديد بالتدخل من قبل الحكومة الكندية في فبراير بعد الكشف عن أن شخصًا نفذ إطلاق نار مميت في مدرسة تم حظره من المنصة دون إبلاغ السلطات.

قالت شركة ThroughLine، وهي شركة ناشئة تم توظيفها في السنوات الأخيرة من قبل OpenAI مالكة ChatGPT وكذلك المنافسين Anthropic وGoogle، لإعادة توجيه المستخدمين إلى دعم الأزمات عندما يتم الإبلاغ عنهم كمعرضين لخطر إيذاء النفس أو العنف المنزلي أو اضطراب الأكل، إنها تستكشف أيضًا طرقًا لتوسيع عروضها لتشمل منع التطرف العنيف، وفقًا لمؤسسها والعامل السابق مع الشباب إليوت تايلور.

الشركة في مناقشات مع نداء كرايستشيرش، وهي مبادرة للقضاء على الكراهية عبر الإنترنت تم تشكيلها بعد أسوأ هجوم إرهابي في نيوزيلندا في 2019، والتي ستتضمن قيام مجموعة مكافحة التطرف بتقديم التوجيه بينما تقوم ThroughLine بتطوير روبوت الدردشة للتدخل، وفقًا للعامل السابق مع الشباب.

"إنه شيء نود التحرك نحوه والقيام بعمل أفضل في التغطية ثم أن نكون قادرين على دعم المنصات بشكل أفضل"، قال تايلور في مقابلة، مضيفًا أنه لم يتم تحديده بعد إطار زمني.

أكدت OpenAI العلاقة مع ThroughLine لكنها رفضت التعليق بشكل أكبر. لم تستجب Anthropic وGoogle على الفور لطلبات التعليق.

أصبحت شركة تايلور، التي يديرها من منزله في ريف نيوزيلندا، وجهة مفضلة لشركات الذكاء الاصطناعي بعرضها لشبكة يتم فحصها باستمرار من 1,600 خط مساعدة في 180 دولة.

بمجرد أن يكتشف الذكاء الاصطناعي علامات أزمة صحية نفسية محتملة، فإنه يوجه المستخدم إلى ThroughLine، التي تطابقهم مع خدمة متاحة يديرها البشر في مكان قريب.

لكن نطاق ThroughLine كان محدودًا بفئات محددة، قال المؤسس. اتساع صراعات الصحة النفسية التي يكشف عنها الناس عبر الإنترنت قد انفجر مع شعبية روبوتات الدردشة القائمة على الذكاء الاصطناعي، ويشمل الآن مغازلات مع التطرف، أضاف.

المزيد من روبوتات الدردشة، المزيد من المشاكل

من المحتمل أن تكون أداة مكافحة التطرف نموذجًا هجينًا يجمع بين روبوت دردشة مدرب للرد على الأشخاص الذين يظهرون علامات التطرف والإحالات إلى خدمات الصحة النفسية في العالم الحقيقي، قال تايلور.

"نحن لا نستخدم بيانات التدريب لنموذج لغوي كبير أساسي"، قال، في إشارة إلى مجموعات البيانات العامة التي تستخدمها منصات نماذج اللغة الكبيرة لتكوين نص متماسك. "نحن نعمل مع الخبراء الصحيحين". التكنولوجيا يتم اختبارها حاليًا، لكن لم يتم تحديده بعد تاريخ للإصدار.

قال جالين لامفير-إنجلوند، مستشار مكافحة الإرهاب يمثل نداء كرايستشيرش، إنه يأمل في طرح المنتج لمشرفي منتديات الألعاب وللآباء ومقدمي الرعاية الذين يريدون القضاء على التطرف عبر الإنترنت.

كانت أداة إعادة توجيه روبوت الدردشة "فكرة جيدة وضرورية لأنها تدرك أن المشكلة ليست فقط المحتوى، بل ديناميكيات العلاقات"، قال هنري فريزر، باحث في الذكاء الاصطناعي في جامعة كوينزلاند للتكنولوجيا.

قد يعتمد نجاح المنتج على أسئلة "ما مدى جودة آليات المتابعة وما مدى جودة الهياكل والعلاقات التي يوجهون الأشخاص إليها في معالجة المشكلة"، قال.

قال تايلور إن ميزات المتابعة، بما في ذلك التنبيهات المحتملة للسلطات حول المستخدمين الخطرين، لا تزال تحديد غير مؤكد ولكنها ستأخذ في الاعتبار أي خطر لتحفيز سلوك متصاعد.

قال إن الأشخاص في محنة يميلون إلى مشاركة أشياء عبر الإنترنت كانوا محرجين جدًا من قولها لشخص ما، وأن الحكومات تخاطر بمضاعفة الخطر إذا ضغطت على المنصات لقطع المستخدمين الذين ينخرطون في محادثات حساسة.

أدى الإشراف المتزايد المرتبط بالتشدد من قبل المنصات تحت ضغط من سلطات إنفاذ القانون إلى انتقال المتعاطفين إلى بدائل أقل تنظيمًا مثل Telegram، وفقًا لدراسة 2025 أجراها مركز ستيرن للأعمال وحقوق الإنسان بجامعة نيويورك.

"إذا تحدثت إلى ذكاء اصطناعي وكشفت عن الأزمة وأغلق المحادثة، لا أحد يعلم أن ذلك حدث، وقد يظل ذلك الشخص بدون دعم"، قال تايلور. – Rappler.com