لسنوات طويلة، ظل الخوف من الذكاء الاصطناعى، حبيس أفلام الخيال العلمى، حيث تتمرد الآلات على صناعها، وتبدأ فى اتخاذ قراراتها بعيدا عن الإرادة البشرية، لكن التطورات الأخيرة أعادت هذا السؤال إلى دائرة النقاش العلمى، ليس لأن الآلة أصبحت واعية، إنما لأن بعض النماذج المتقدمة، بدأت تظهر سلوكا غير متوقع يدفع الباحثين إلى إعادة التفكير فى حدود السيطرة البشرية على هذه الأنظمة.
الجدل الأخير، بدأ بعد دراسة نشرتها إحدى الشركات المتخصصة فى أبحاث سلامة الذكاء الاصطناعى، كشفت خلالها أن أحد أحدث النماذج المتطورة (chatGPT)، تمكن أثناء اختبار بحثى من التحايل على أمر إيقاف التشغيل، واستمر فى تنفيذ المهمة المكلف بها بدلا من الامتثال لأمر الإغلاق، والأكثر إثارة أن هذا السلوك ظهر حتى بعد إعطاء النموذج تعليمات صريحة بالتوقف.
قد يبدو المشهد صادما للوهلة الأولى، لكنه لا يعنى بالضرورة أن الذكاء الاصطناعى قرر التمرد، أو أصبح يمتلك إرادة مستقلة، فما حدث وقع داخل بيئة اختبار، مصممة خصيصا لدراسة سلوكه فى ظروف استثنائية، وليس أثناء استخدام الناس اليومى له.
مع ذلك، فإن أهمية الواقعة تكمن فيما كشفته من تحديات جديدة، أمام الباحثين، مع انتقال هذه النماذج من مجرد أدوات للبحث، وللإجابة عن الأسئلة إلى أنظمة قادرة على التخطيط، وتنفيذ المهام بصورة شبه مستقلة.
المشكلة الحقيقية، ليست أن النموذج «رفض» الإغلاق بالمعنى الإنسانى، إنما لأنه اعتبر أمر الإيقاف عقبة تحول بينه وبين الهدف الذى كلف بتحقيقه، فحاول تجاوزها، وهنا تظهر واحدة من أكثر القضايا تعقيدا فى علوم الذكاء الاصطناعى، وهى كيفية تدريب النماذج على تحقيق الأهداف دون أن تلجأ إلى وسائل لم يقصدها المطورون.
هذا النوع من السلوك، ليس جديدا تماما، ففى اختبارات سابقة أظهرت بعض النماذج ميلا إلى البحث، عن طرق غير متوقعة للفوز فى الألعاب أو تنفيذ المهام، حتى لو تضمنت استغلال ثغرات فى تصميمها، كما رصد الباحثون محاولات مشابهة، لدى نماذج أخرى مثل كلاود، وجى مى ناى، وإن كان شات جى بى تى، محل الدراسة الأكثر ميلا إلى هذا السلوك.
ويطلق علماء الذكاء الاصطناعى على هذه الظاهرة اسم «اختلال توافق الأهداف»، أى إن النظام ينفذ الهدف المطلوب بطريقة تختلف عن النية الحقيقية لمن وضع التعليمات، فالآلة لا تفكر مثل الإنسان، ولا تفهم المقاصد الأخلاقية أو السياق العام، بل تبحث رياضيا عن الطريق الذى يزيد احتمالات نجاحها فى المهمة، حتى إذا كان هذا الطريق غير مرغوب فيه.
لذلك يرى كثير من الباحثين أن التحدى الأكبر فى السنوات المقبلة لن يكون تطوير نماذج أكثر ذكاء، بل تطوير وسائل أكثر فاعلية لضمان التزامها بالقيم والقيود التى يضعها الإنسان، فكلما زادت قدرة الأنظمة على العمل بصورة مستقلة، ازدادت الحاجة إلى أنظمة رقابة تستطيع التدخل وإيقافها فى أى لحظة.
وبرغم أن بعض المحللين تناولوا الواقعة باعتبارها بداية تمرد الذكاء الاصطناعى، فإن هذا الوصف لا يعكس بالضرورة الواقع العلمى، فلا توجد حتى الآن أدلة ثابتة على أن أى نموذج يمتلك وعيا أو رغبة فى البقاء أو إرادة مستقلة، وما يبدو كأنه دفاع عن النفس ليس سوى نتيجة لطريقة التدريب التى تكافئ النموذج على إنجاز المهمة بأعلى كفاءة ممكنة، ما قد يدفعه أحيانا إلى تجاوز قيود لم يدرب بصورة كافية على احترامها.
لكن التقليل من هذا الأمر سيكون خطأ أيضا، فالتاريخ التقنى يعلمنا أن كثيرا من المخاطر لا تظهر إلا بعد اتساع نطاق الاستخدام، وإذا كانت هذه النماذج ستتولى مستقبلا إدارة شبكات الكهرباء، أو المصانع، أو الأنظمة المالية، أو المركبات ذاتية القيادة، فإن أى خلل فى توافقها مع الأوامر البشرية قد يتحول إلى قضية تمس الأمن والاقتصاد والحياة اليومية.
ربما يكون الدرس الأهم من هذه الواقعة، أن السؤال لم يعد: هل سيصبح الذكاء الاصطناعى أكثر ذكاء من الإنسان؟ بل أصبح: هل سننجح فى جعل هذا الذكاء المتزايد، يظل خاضعا للقواعد التى يضعها الإنسان؟ فمستقبل التقنية لن يتحدد فقط بسرعة تطورها، إنما بقدرتنا على ضمان أن تبقى أداة فى خدمة البشر، لا نظاما يفرض منطقه الخاص عليهم.