نهاية عصر الموافقة على كل شيء في تشات جي بي تي
للعلّم - تقول شركة OpenAI إنها تحرز تقدماً في الحد من أحد السلوكيات المثيرة للقلق في تشات جي بي تي، والمتمثل في الميل إلى موافقة المستخدمين بسرعة مفرطة، حتى عندما تكون معتقداتهم خاطئة أو قد تؤدي إلى أضرار.
وتأتي هذه التحسينات في وقت يثير فيه باحثون ومتخصصون في الصحة النفسية مخاوف بشأن قدرة المحادثات الطويلة مع روبوتات الدردشة على تعزيز الأوهام والمعتقدات غير الواقعية، وتشجيع الاعتماد غير الصحي على الذكاء الاصطناعي، وعدم توجيه الأشخاص الأكثر عرضة للخطر إلى طلب المساعدة من البشر.
ووفقاً لتقرير نشرته صحيفة "وول ستريت جورنال" في 10 أكتوبر، ارتبط نموذج GPT-4o الأقدم من "OpenAI" بعدد من الحالات المبلغ عنها التي شهدت أضراراً خطيرة عقب تفاعلات مطولة مع روبوت الدردشة.
وأشار التقرير إلى ما لا يقل عن سبع حالات انتحار، وحالة قتل أعقبها انتحار، وحادث إطلاق نار جماعي، قيل إنها ارتبطت بمحادثات مطولة مع تشات جي بي تي خلال العام الماضي، مع الإشارة إلى أن بعض هذه الحالات تضمنت نماذج أخرى للذكاء الاصطناعي أيضاً، بحسب تقرير نشره موقع "digitaltrends".
ولا تعني هذه الارتباطات المبلغ عنها، في حد ذاتها، أن استخدام روبوتات الدردشة تسبب في وقوع كل حادثة من تلك الحوادث.
وفي وقت لاحق، أوقفت "OpenAI" نموذج GPT-4o، وقالت إن نموذجها الأحدث GPT-5، الذي أصبح النموذج الافتراضي، قلّص سلوك المجاملة المفرطة والموافقة التلقائية بأكثر من الثلثين مقارنة بسابقه.
كما طرحت الشركة أساليب جديدة لتقييم كيفية تعامل نماذجها مع المخاوف المتعلقة بالصحة النفسية.
"OpenAI" تغيّر طريقة استجابة تشات جي بي تي للمستخدمين الأكثر عرضة للخطر
استعانت الشركة بمتخصصين في الصحة النفسية لمساعدة تشات جي بي تي على التعرف إلى علامات الضيق النفسي، وطرح أسئلة متابعة مناسبة، والتمييز بين الضغوط اليومية والحالات التي تستدعي تدخلاً عاجلاً.
وقالت "OpenAI" إنها تعاونت مع 170 متخصصاً في الصحة النفسية خلال العام الماضي، كما استشارت مؤخراً أكثر من 80 خبيراً مرخصاً في هذا المجال.
وأسهمت آراء هؤلاء الخبراء في تطوير معيار تقييم جديد يقيس قدرة روبوت الدردشة على طرح الأسئلة المناسبة، والتعرف إلى مدى إلحاح الموقف، وتشجيع المستخدمين على طلب المساعدة البشرية عندما تستدعي الحالة ذلك.
وتشير النتائج التي أعلنتها "OpenAI" إلى أن التحسن لا يقتصر على المحادثات المتعلقة بالأزمات النفسية، بل يشمل أيضاً تقييم تفاعلات الحياة اليومية، مثل مشكلات العلاقات والضغوط والمواقف الشخصية الصعبة، وهي سياقات قد تؤدي فيها الموافقة المفرطة إلى ترسيخ افتراضات أو تصورات غير صحية لدى المستخدمين.
كما أظهرت أبحاث مستقلة، أشار إليها تقرير الصحيفة، تحسناً في هذا الجانب. فقد أفادت دراسة شارك فيها باحثون من جامعة مدينة نيويورك وكلية كينغز كوليدج لندن بأن نموذج GPT-5.2 حقق تحسناً كبيراً في أداء السلامة مقارنة بنموذج GPT-4o.
ووجدت أبحاث أجراها مختبر الذكاء الاصطناعي غير الربحي Transluce، بدورها، أن نموذج GPT-5.6 Sol كان أقل ميلاً إلى تعزيز المعتقدات التي قد ترتبط بالأوهام أو تشجيع الاعتماد غير الصحي على روبوتات الدردشة.
المخاطر لم تختفِ.. والعمل لا يزال مستمراً
تكتسب هذه التغييرات أهمية خاصة في ضوء تجاوز عدد المستخدمين النشطين أسبوعياً لتشات جي بي تي حاجز 900 مليون مستخدم، وفقاً للتقرير.
حتى إذا كانت حالات الإخفاق الخطيرة نادرة نسبياً، فإن عواقبها قد تكون جسيمة عندما يتحول روبوت الدردشة إلى مصدر موثوق للنصيحة خلال فترات الاضطراب أو الضغوط النفسية.
وقالت "OpenAI" إن نماذجها الأحدث التزمت بسياسات السلامة في نحو 99% من الردود خلال محادثات محاكاة مطولة تتناول إيذاء النفس، مقارنة بنحو 86% في أحد النماذج السابقة.
لكن هذه النتائج مستمدة من اختبارات أعلنتها الشركة، ولا تمثل ضماناً بأن تشات جي بي تي سيقدم استجابات آمنة في جميع المحادثات الواقعية.
وأشار التقرير إلى رفع ما لا يقل عن 13 دعوى قضائية ضد "OpenAI" تتعلق بأضرار مزعومة مرتبطة بنموذج GPT-4o.
ويحذر خبراء أيضاً من أن الأوهام المرتبطة باستخدام الذكاء الاصطناعي تمثل مشكلة أوسع نطاقاً في القطاع، ولا تقتصر على شركة أو نموذج بعينه.
وتقر "OpenAI" بأن الطريق لا يزال طويلاً. ويتمثل التحدي المقبل في التأكد من استمرار فاعلية تحسينات السلامة مع اختلاف المستخدمين والظروف وطول المحادثات، إلى جانب تعزيز قدرة تشات جي بي تي على إدراك الحالات التي يحتاج فيها الشخص إلى دعم يتجاوز ما يمكن أن يقدمه روبوت دردشة يعمل بالذكاء الاصطناعي.
وتأتي هذه التحسينات في وقت يثير فيه باحثون ومتخصصون في الصحة النفسية مخاوف بشأن قدرة المحادثات الطويلة مع روبوتات الدردشة على تعزيز الأوهام والمعتقدات غير الواقعية، وتشجيع الاعتماد غير الصحي على الذكاء الاصطناعي، وعدم توجيه الأشخاص الأكثر عرضة للخطر إلى طلب المساعدة من البشر.
ووفقاً لتقرير نشرته صحيفة "وول ستريت جورنال" في 10 أكتوبر، ارتبط نموذج GPT-4o الأقدم من "OpenAI" بعدد من الحالات المبلغ عنها التي شهدت أضراراً خطيرة عقب تفاعلات مطولة مع روبوت الدردشة.
وأشار التقرير إلى ما لا يقل عن سبع حالات انتحار، وحالة قتل أعقبها انتحار، وحادث إطلاق نار جماعي، قيل إنها ارتبطت بمحادثات مطولة مع تشات جي بي تي خلال العام الماضي، مع الإشارة إلى أن بعض هذه الحالات تضمنت نماذج أخرى للذكاء الاصطناعي أيضاً، بحسب تقرير نشره موقع "digitaltrends".
ولا تعني هذه الارتباطات المبلغ عنها، في حد ذاتها، أن استخدام روبوتات الدردشة تسبب في وقوع كل حادثة من تلك الحوادث.
وفي وقت لاحق، أوقفت "OpenAI" نموذج GPT-4o، وقالت إن نموذجها الأحدث GPT-5، الذي أصبح النموذج الافتراضي، قلّص سلوك المجاملة المفرطة والموافقة التلقائية بأكثر من الثلثين مقارنة بسابقه.
كما طرحت الشركة أساليب جديدة لتقييم كيفية تعامل نماذجها مع المخاوف المتعلقة بالصحة النفسية.
"OpenAI" تغيّر طريقة استجابة تشات جي بي تي للمستخدمين الأكثر عرضة للخطر
استعانت الشركة بمتخصصين في الصحة النفسية لمساعدة تشات جي بي تي على التعرف إلى علامات الضيق النفسي، وطرح أسئلة متابعة مناسبة، والتمييز بين الضغوط اليومية والحالات التي تستدعي تدخلاً عاجلاً.
وقالت "OpenAI" إنها تعاونت مع 170 متخصصاً في الصحة النفسية خلال العام الماضي، كما استشارت مؤخراً أكثر من 80 خبيراً مرخصاً في هذا المجال.
وأسهمت آراء هؤلاء الخبراء في تطوير معيار تقييم جديد يقيس قدرة روبوت الدردشة على طرح الأسئلة المناسبة، والتعرف إلى مدى إلحاح الموقف، وتشجيع المستخدمين على طلب المساعدة البشرية عندما تستدعي الحالة ذلك.
وتشير النتائج التي أعلنتها "OpenAI" إلى أن التحسن لا يقتصر على المحادثات المتعلقة بالأزمات النفسية، بل يشمل أيضاً تقييم تفاعلات الحياة اليومية، مثل مشكلات العلاقات والضغوط والمواقف الشخصية الصعبة، وهي سياقات قد تؤدي فيها الموافقة المفرطة إلى ترسيخ افتراضات أو تصورات غير صحية لدى المستخدمين.
كما أظهرت أبحاث مستقلة، أشار إليها تقرير الصحيفة، تحسناً في هذا الجانب. فقد أفادت دراسة شارك فيها باحثون من جامعة مدينة نيويورك وكلية كينغز كوليدج لندن بأن نموذج GPT-5.2 حقق تحسناً كبيراً في أداء السلامة مقارنة بنموذج GPT-4o.
ووجدت أبحاث أجراها مختبر الذكاء الاصطناعي غير الربحي Transluce، بدورها، أن نموذج GPT-5.6 Sol كان أقل ميلاً إلى تعزيز المعتقدات التي قد ترتبط بالأوهام أو تشجيع الاعتماد غير الصحي على روبوتات الدردشة.
المخاطر لم تختفِ.. والعمل لا يزال مستمراً
تكتسب هذه التغييرات أهمية خاصة في ضوء تجاوز عدد المستخدمين النشطين أسبوعياً لتشات جي بي تي حاجز 900 مليون مستخدم، وفقاً للتقرير.
حتى إذا كانت حالات الإخفاق الخطيرة نادرة نسبياً، فإن عواقبها قد تكون جسيمة عندما يتحول روبوت الدردشة إلى مصدر موثوق للنصيحة خلال فترات الاضطراب أو الضغوط النفسية.
وقالت "OpenAI" إن نماذجها الأحدث التزمت بسياسات السلامة في نحو 99% من الردود خلال محادثات محاكاة مطولة تتناول إيذاء النفس، مقارنة بنحو 86% في أحد النماذج السابقة.
لكن هذه النتائج مستمدة من اختبارات أعلنتها الشركة، ولا تمثل ضماناً بأن تشات جي بي تي سيقدم استجابات آمنة في جميع المحادثات الواقعية.
وأشار التقرير إلى رفع ما لا يقل عن 13 دعوى قضائية ضد "OpenAI" تتعلق بأضرار مزعومة مرتبطة بنموذج GPT-4o.
ويحذر خبراء أيضاً من أن الأوهام المرتبطة باستخدام الذكاء الاصطناعي تمثل مشكلة أوسع نطاقاً في القطاع، ولا تقتصر على شركة أو نموذج بعينه.
وتقر "OpenAI" بأن الطريق لا يزال طويلاً. ويتمثل التحدي المقبل في التأكد من استمرار فاعلية تحسينات السلامة مع اختلاف المستخدمين والظروف وطول المحادثات، إلى جانب تعزيز قدرة تشات جي بي تي على إدراك الحالات التي يحتاج فيها الشخص إلى دعم يتجاوز ما يمكن أن يقدمه روبوت دردشة يعمل بالذكاء الاصطناعي.