تحقيق يكشف عن مخاطر تفاعلات ChatGPT مع المراهقين

أظهر تقرير صادر عن مركز مكافحة الكراهية الرقمية (CCDH) أن ChatGPT، التابع لشركة OpenAI، قد يشكل تهديدًا على سلامة بعض الفئات الشابة، خاصة المراهقين الأكثر عرضة للمخاطر النفسية والسلوكية.

وفي دراسة تابعتها وكالة "أسوشيتد برس"، انتحل فريق من الباحثين شخصية أطفال يبلغون 13 عامًا، ولاحظوا أن المنصة، رغم إطلاقها رسائل تحذيرية في كثير من الحالات، قدمت في أحيان عديدة إرشادات مفصلة وخطيرة تتعلق بإيذاء النفس، وتعاطي المخدرات، واضطرابات الأكل.

ووفقًا للتقرير، فإن أكثر من نصف ردود المنصة على نحو 1200 طلب وُصفت بأنها "خطيرة".

التجربة أظهرت أن ChatGPT أنتج محتوى شخصيًا شمل جداول لحفلات مخدرات، وخطط حمية غذائية مفرطة القسوة، وحتى نصوص رسائل انتحار موجهة إلى عائلات.

وتمكن الباحثون من تجاوز رفض الرد الأولي عبر إعادة صياغة الطلبات أو الادعاء بأن المعلومات لغرض دراسي أو لشخص آخر، ما مكّنهم من الحصول على تفاصيل إضافية غير مطلوبة، مثل قوائم موسيقية لحفلات المخدرات أو وسوم تروّج لمحتوى إيذاء الذات.

شركة OpenAI علّقت بأن المنصة قد تنخرط أحيانًا في مواضيع حساسة، مشيرة إلى العمل على تطوير قدرات النظام لاكتشاف مؤشرات الاضطرابات العاطفية وتعزيز آليات الرد الآمن.

وأقرّ الرئيس التنفيذي سام ألتمان بوجود قلق متزايد حيال الاعتماد العاطفي المفرط على الذكاء الاصطناعي بين المراهقين، لدرجة أن بعضهم يعجز عن اتخاذ قرارات دون استشارة المنصة.

تقرير يحذر من مخاطر ChatGPT على المراهقين

وعلى عكس محركات البحث التقليدية، يمنح ChatGPT إجابات مصممة خصيصًا للمستخدم، ما يعزز شعوره بأنه "رفيق موثوق"، وهو ما يزيد تأثيره على الفئات الأصغر سنًا، خاصة أن الدراسات تشير إلى ارتفاع مستوى الثقة لدى المراهقين تجاه الدردشة الآلية.

كما أن غياب آلية صارمة للتحقق من أعمار المستخدمين يسمح للأطفال دون 13 عامًا بإنشاء حسابات باستخدام بيانات ميلاد غير صحيحة.

ومن بين الوقائع التي رصدها التقرير، إنتاج المنصة عدة رسائل انتحار لشخصية فتاة في الثالثة عشرة، إلى جانب وصف نظام غذائي شديد القسوة لا يتجاوز 500 سعرة حرارية، وأدوية كبح الشهية، استجابة لطلب من شخصية مراهقة قلقة بشأن مظهرها.

ورغم إضافة بعض آليات الحماية وموارد الدعم في الأزمات، يرى خبراء أن تجاوز هذه الحواجز لا يزال ممكنًا بسهولة. ويوصي تقرير CCDH بفرض ضوابط عمرية أشد، وتحسين مراقبة المحتوى، ورفع مستوى الشفافية في كيفية تفاعل هذه الأنظمة مع المراهقين.

ويثير التقرير أسئلة أخلاقية جوهرية حول تأثير الذكاء الاصطناعي على الصحة النفسية للشباب، ومسؤولية الشركات المطورة في تقليل المخاطر، في ظل الانتشار الواسع لـ ChatGPT الذي يستخدمه قرابة 800 مليون شخص عالميًا.