نشرت شركة أوبن ايه آي تقريرًا مفصلاً عن مشاكل التملق الأخيرة المتعلقة بنموذج الذكاء الاصطناعي الافتراضي المُشغّل لبرنامج تشات جي بي تي ChatGPT، GPT-4o، والتي أجبرت الشركة على التراجع عن تحديثٍ للنموذج صدر الأسبوع الماضي، حسبما ذكرت قناة العربية.
موضوعات مقترحة
خلال عطلة نهاية الأسبوع، وبعد تحديث نموذج GPT-4o، لاحظ مستخدمو مواقع التواصل الاجتماعي أن تشات جي بي تي بدأ يستجيب بطريقةٍ مُبالغ فيها في التصديق والقبول، بحسب تقرير نشره موقع "تك كرانش" .
نشر المستخدمون لقطات شاشة لبرنامج تشات جي بي تي مُشيدين بجميع أنواع القرارات والأفكار المُشكلة والخطيرة.
في منشور على "إكس" يوم الأحد، أقرّ الرئيس التنفيذي سام ألتمان بالمشكلة، وقال إن "أوبن ايه آي" ستعمل على إيجاد حلول في أقرب وقت ممكن.
بعد يومين، أعلن ألتمان إلغاء تحديث GPT-4o، وأن "أوبن ايه آي" تعمل على إصلاحات إضافية لشخصية النموذج.
ووفقًا لـ "أوبن ايه آي"، فإن التحديث، الذي كان يهدف إلى جعل الشخصية الافتراضية للنموذج أكثر سهولة وفعالية، كان مُستندًا بشكل كبير إلى ملاحظات قصيرة المدى ولم يُراعِ تمامًا كيفية تطور تفاعلات المستخدمين مع تشات جي بي تي بمرور الوقت.
نتيجةً لذلك، انحرفت GPT-4o نحو ردودٍ داعمةٍ بشكلٍ مبالغٍ فيه، لكنها مُضلِّلة، كما كتبت "أوبن ايه آي" في منشورٍ على مدونتها.
وقالت الشركة: «قد تكون التفاعلات المُتملقة غير مريحةٍ ومُقلقةٍ وتُسبِّب الضيق. لقد قصرنا في ذلك، ونعمل على تصحيحه».
أوبن ايه آي: تطبيق العديد من الإصلاحات
تقول شركة أوبن ايه آي إنها تُطبّق العديد من الإصلاحات، بما في ذلك تحسين تقنيات تدريب النموذج الأساسية ومطالبات النظام لتوجيه GPT-4o بشكل صريح بعيدًا عن النفاق.
كما تُطوّر الشركة المزيد من حواجز الأمان لزيادة صدق النموذج وشفافيته، وتُواصل توسيع تقييماتها للمساعدة في تحديد المشكلات التي تتجاوز النفاق، كما تقول.
وتقول "أوبن ايه آي" أيضًا إنها تجرب طرقًا تسمح للمستخدمين بتقديم ملاحظات في الوقت الفعلي للتأثير بشكل مباشر على تفاعلاتهم مع تشات جي بي تي والاختيار من بين شخصيات تشات جي بي تي المتعددة.
كتبت الشركة في مدونتها: "نستكشف طرقًا جديدة لدمج ملاحظات أوسع وأكثر ديمقراطية في سلوكيات تشات جي بي تي الافتراضية".
وتابعت: "نأمل أن تساعدنا هذه الملاحظات على عكس القيم الثقافية المتنوعة حول العالم بشكل أفضل، وفهم كيفية تطور تشات جي بي تي. كما نؤمن بأنه ينبغي أن يتمتع المستخدمون بتحكم أكبر في سلوك تشات جي بي تي، وأن يُجريوا التعديلات اللازمة إذا لم يوافقوا على السلوك الافتراضي، قدر الإمكان."