ابتداءً من شهر نوفمبر تقريباً، لاحظ مستخدمو ChatGPT سلوكاً غريباً: لم يتوقف برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي عن الحديث عن العفاريت. لذلك، بدأت شركة OpenAI، المطورة للبرنامج، بالتحقيق في الأمر.
بدأت المخلوقات الأسطورية، إلى جانب العفاريت وغيرها من الكائنات المشابهة، بالظهور في الاستعارات التي يستخدمها برنامج الدردشة الآلي من OpenAI في ردوده، وحتى في الصور التي يُنشئها استجابةً لمطالبات لا علاقة لها بالعفاريت. وعلى مدار الأشهر القليلة التالية، انتشرت هذه الكائنات بشكل واسع. وأصبحت المشكلة متفشية لدرجة أن OpenAI اعترفت بها في منشور علني حديث ، وكشف تحقيق أن استخدام كلمة "عفريت" قد ارتفع بنسبة 175% بعد إطلاق الإصدار 5.1 من ChatGPT في نوفمبر. في ذلك الوقت، وجدت الشركة أن العفاريت "لم تكن تبدو مثيرة للقلق بشكل خاص"، كما جاء في بيانها، ولكن مع طرح إصدارات أحدث من ChatGPT، لاحظوا زيادة أكبر. بالنسبة لمعظم الناس، يُعدّ وجود عدد كبير من الكلمات غير اللائقة في ChatGPT سمةً حميدةً للذكاء الاصطناعي. وقد اتخذت الشركة منذ ذلك الحين إجراءات للحدّ من هذه الكلمات في نظامها، بما في ذلك إصدار أمر مؤقت يمنع النموذج فعلياً من استخدام كلمة "goblin" في معظم المحادثات. لكن خبراء التكنولوجيا قالوا إن الخلل يكشف عن ثغرات في أساس كيفية تدريب هذه الأنظمة، وكيف تكافح الشركات لمواكبة متطلبات سباق التسلح في مجال الذكاء الاصطناعي.
قال كريستوف ريدل
أستاذ علوم الحاسوب ونظم المعلومات وعلوم الشبكات في جامعة نورث إيسترن: "الأمر أشبه بضغط هائل. فالشركات تتعرض لضغوط لإصدار نماذج جديدة، ولديها موارد وقدرات محدودة لاختبارها. كما أن العمليات طويلة ومعقدة للغاية، وهذا هو السبب تحديداً وراء ظهور مثل هذه الأمور." قال ريدل: "هذه إشارات تعزيز [من المستخدمين] إلى النماذج ليقولوا: "إذا قمت بإنشاء إجابة تبدو هكذا، فستحصل على مكافآت إيجابية، وإذا كانت الإجابة تبدو هكذا، فستحصل على مكافآت أقل". بمجرد أن يتعرف النموذج على سلوك مُكافأ، سيحاول "استغلال المكافآت" في سعيه لإيجاد طرق مختصرة وتوليد استجابات تُحقق أكبر قدر من المكافآت. قد يكون لدى OpenAI فهم أوسع وأعمق لمعنى "التخصص الدقيق"، لكن النموذج "قد يُحسّن أداءه بطريقة ضيقة للغاية لا تتوافق إطلاقًا مع ما كنت تقصده"،
كما قال ريدل
ويبدو أن هذا ما حدث بالفعل. فبين ديسمبر ومارس، زادت الإشارات إلى العفاريت بنسبة 3881.4% في ردود فعل الشخصية المهووسة بالتقنية، وفقًا لشركة OpenAI. ولهذا السبب أيضاً، قبل أن تُصدر OpenAI أمراً يمنع ChatGPT فعلياً من ذكر العفاريت
في نهاية المطاف، طبّقت OpenAI حلاً سريعاً عالج المشكلة على المدى القصير، مُلغيةً بذلك سمة "الشخصية المهووسة". لكن مع تزايد الطلب على إنشاء نماذج أفضل بسرعة وبشكل متكرر، ستستمر مثل هذه السلوكيات في التسلل دون رصد، كما قال ريدل. لقد خلق هذا وضعاً "يقلق كل باحث في مجال سلامة الذكاء الاصطناعي"، كما قال ريدل، وهو وضع ينتج عنه، في أحسن الأحوال، كائنات شريرة. وكان لدى غروك، برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي طوره إيلون ماسك، هاجسه الخاص العام الماضي: مزاعم لا أساس لها من الصحة حول "إبادة البيض" في جنوب إفريقيا.
