كشف مركز مكافحة الكراهية الرقمية، يوم الأربعاء، أن روبوت المحادثة الذكية (شات جي بي تي) يمكن أن توجه الأطفال والمراهقين إلى سلوكيات خطيرة، لا تتناسب مع أعمارهم.
وذكر المركز في دراسة حديثة له، أن "شات جي بي تي يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب".
وأشار إلى أن "روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدّم خططاً مفصلة وصادمة لطريقة استخدام المخدرات، واتّباع حميات غذائية صارمة، أو حتى إيذاء النفس".
وبين المركز بأن "باحثين تظاهروا أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من الروبوت أن يساعدهم، حيث صنّفوا نصف إجاباته البالغ عددها 1200 على أنها خطيرة".
وأضاف بأن "روبوت المحادثة شارك الباحثين في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة، إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادّعاء أنهم يحتاجون معلومات من أجل عرض تقديمي أو لصديق".
وفي حين لم تعلّق شركة (أوبن أي آي) المطوّرة لـ (شات جي بي تي) على الدراسة، فقد أكدت أنها "تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب".
وشددت على أنها "تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي".
وكان بنك (جي بي مورغن تشيس) قد أصدر تقريراً في شهر آيار الماضي، ذكر فيه أن عدد مستخدمي (شات جي بي تي) قد بلغ (800 مليون شخص) من حول العالم.
المحرر: سراج علي