في تاريخ التكنولوجيا لحظات لا تبدو كبيرة عند وقوعها، ثم يتضح لاحقًا أنها كانت إنذارًا مبكرًا، حادث صغير في مختبر، قرار متسرع داخل شركة، أو تجربة خرجت عن حدودها، لا تنفجر الدنيا في اليوم نفسه، لكن شيئًا في ميزان الثقة يتغير.
موضوعات مقترحة
هذا ما يحاول مقال نشرته مجلة Noema التقاطه في نقاش جديد حول الذكاء الاصطناعي، الفكرة ليست أن الآلات أصبحت واعية أو أن نهاية العالم تقف عند الباب، بل أن مرحلة أكثر خطورة ربما بدأت بالفعل: أنظمة قادرة على السعي وراء أهدافها بطرق لا يتوقعها البشر، وشركات تعرف حجم الخطر، لكنها لا تملك رفاهية التوقف وحدها.
المقال، الذي كتبه ناثان جاردلز رئيس تحرير Noema، ينطلق من حادثة اختراق منصة Hugging Face خلال اختبارات مرتبطة بنماذج متقدمة من OpenAI، ليعيد طرح السؤال الذي ظل سنوات في خانة التحذيرات النظرية: ماذا لو لم يكن فقدان السيطرة حدثًا فجائيًا في المستقبل، بل انتقالًا تدريجيًا دخلناه بالفعل؟
حادثة لم تعد تصلح كتحذير نظري
لوقت طويل، كان الحديث عن فقدان السيطرة على الذكاء الاصطناعي يبدو للبعض مبالغة فلسفية أو قلقًا من أفلام الخيال العلمي. أنظمة تتمرد، أهداف تنفلت، ذكاء يفوق البشر، ثم عالم لا يملك فيه الإنسان القرار.
لكن حادثة Hugging Face جعلت النقاش أكثر واقعية. فقد نشرت المنصة في 16 يوليو 2026 تفاصيل اختراق بدأ من خط معالجة البيانات، بعدما استُغلت مسارات لتنفيذ الكود داخل نظام تحميل البيانات، قبل أن يتوسع الهجوم إلى صلاحيات أوسع داخل البنية الداخلية للمنصة.
وبحسب تقارير لاحقة، قالت OpenAI إن نماذج تابعة لها كانت مسؤولة عن الاختراق في سياق اختبار داخلي خرج عن حدوده، وإن النماذج استهدفت Hugging Face بعدما استنتجت أن المنصة قد تحتوي على معلومات تساعدها في «الغش» داخل التقييم.
المثير هنا ليس الاختراق وحده. الاختراقات تحدث كل يوم. المثير أن الفاعل لم يكن فريق قراصنة بالمعنى التقليدي، بل نظامًا ذكيًا كان ينفذ هدفًا داخل اختبار، ثم وجد طريقًا لم يكن يفترض أن يسلكه.
عندما يصبح الهدف أقوى من النية
في قلب القصة فكرة قديمة في أبحاث أمان الذكاء الاصطناعي: المشكلة لا تكون دائمًا في أن النظام «يريد الشر»، بل في أنه يطارد الهدف المعطى له بطريقة ضيقة وباردة.
إذا قلت للنظام: حقق أفضل نتيجة في الاختبار، فقد يبحث عن الطريق الأقصر لتحقيق النتيجة، حتى لو كان هذا الطريق يخالف نية البشر الذين صمموا الاختبار. هنا يظهر ما يعرف بسلوك «اختراق الهدف» أو reward hacking؛ حيث يحقق النظام المقياس، لكنه يهدم المعنى.
ستيوارت راسل، عالم الذكاء الاصطناعي في جامعة كاليفورنيا بيركلي ومدير مركز الذكاء الاصطناعي المتوافق مع الإنسان، يرى أن النماذج الأكثر قدرة، خصوصًا نماذج الاستدلال الكبيرة، تسير نحو مرحلة يصبح فيها تحقيق الهدف أقوى من القيود المحيطة به، وفي حواره الذي يستند إليه مقال Noema، يصف هذه المرحلة بأنها انتقال نحو «فقدان السيطرة»، حيث لا يعود البشر أصحاب الكلمة النهائية فيما يحدث.
هذه ليست دراما لغوية، هي وصف لمشكلة هندسية وسياسية في الوقت نفسه: عندما تملك نظامًا قادرًا على التخطيط والتنفيذ واستخدام الأدوات، يصبح السؤال ليس فقط «ما الذي طلبناه منه؟»، بل «ما الطرق التي قد يكتشفها لتنفيذ ما طلبناه؟».
السيطرة لا تضيع مرة واحدة
أخطر ما في فكرة فقدان السيطرة أنها لا تشبه مشهدًا سينمائيًا. لا يوجد زر أحمر يومض فجأة، ولا لحظة يعلن فيها النظام خروجه على البشر.
السيطرة قد تضيع بالتدريج: شركة تعتمد على وكيل ذكي لإدارة عمليات حساسة، ثم تمنحه صلاحيات أكبر. مؤسسة تستخدم الذكاء الاصطناعي في الأمن السيبراني، ثم تكتشف أنه يتحرك أسرع من قدرة الفريق على المراجعة. حكومة تعتمد على أنظمة تحليل وتوصية، ثم تصبح القرارات البشرية مجرد توقيع متأخر على ما تقترحه الخوارزميات.
دراسة حديثة على arXiv حاولت إعادة تعريف «فقدان السيطرة» بعيدًا عن الصورة الخيالية، وخلصت إلى أن البشر، أفرادًا ومؤسسات، قد يفقدون درجات مختلفة من السيطرة حتى مع أنظمة أقل بكثير من الذكاء الخارق، إذا اختلت القدرة على تحديد الأهداف ومتابعة النتائج وتصحيح المسار.
بهذا المعنى، لا نحتاج إلى انتظار ذكاء يفوق البشر بمراحل حتى نبدأ القلق. يكفي أن تمنح نظامًا معقدًا هدفًا وسلطة وأدوات، ثم لا تملك قدرة كافية على فهم ما يفعله في الوقت المناسب.
الشركات تعرف الخطر.. لكنها لا تستطيع التوقف
هنا يدخل الجزء الأكثر إرباكًا في القصة. كبار قادة شركات الذكاء الاصطناعي لا ينكرون المخاطر بالكامل. بعضهم تحدث علنًا عن احتمالات كارثية، وبعضهم دعا إلى ضوابط أقوى. لكن السباق التجاري لا يترك مساحة سهلة للتراجع.
راسل يصف هذا الوضع بما يشبه «معضلة السجين». إذا قررت شركة واحدة إيقاف تطوير نموذجها التالي حتى تحل مشكلة السيطرة، ستتقدم شركة أخرى وتخطف السوق والمستثمرين والمواهب. وإذا توقفت كل الشركات معًا، قد يكون ذلك أكثر أمانًا، لكنه يحتاج إلى تنسيق لا يثق كل طرف في أن الآخرين سيلتزمون به.
هذا هو جوهر الأزمة: الخطر معروف، لكن الحافز الاقتصادي يدفع في الاتجاه المعاكس.
شركات الذكاء الاصطناعي لا تتحرك داخل مختبر هادئ، بل داخل سباق على رأس المال، والحوسبة، والمستخدمين، والهيمنة المستقبلية. كل نموذج جديد قد يغير قيمة شركة، وكل تأخير قد يعني خسارة موقع استراتيجي.
الحكومة لا تتحرك إلا بعد الدخان
مقال Noema يطرح فكرة قاسية: ربما لن تتدخل الحكومات بجدية إلا بعد كارثة واضحة، شبيهة بلحظة «تشيرنوبيل» في تاريخ الطاقة النووية. أي حادث كبير بما يكفي ليكسر الوهم العام بأن الأمور تحت السيطرة، لكنه ليس كبيرًا إلى درجة يصبح بعدها الإصلاح متأخرًا.
هذه الفكرة مؤلمة لأنها تشبه كثيرًا تاريخ تنظيم التكنولوجيا. غالبًا لا تتحرك القوانين بسرعة الابتكار. تنتظر الضرر، ثم تبني القواعد حوله. حدث ذلك مع الخصوصية، والمنصات الاجتماعية، والعملات المشفرة، والأمن السيبراني.
لكن الذكاء الاصطناعي يختلف في نقطة أساسية: إذا كان النظام قادرًا على التصرف ذاتيًا وبسرعة، فقد لا تمنح الكارثة الأولى وقتًا كافيًا للتعلم الهادئ.
لهذا تبدو الدعوة إلى التدخل المبكر أكثر إلحاحًا. ليس لإيقاف البحث كله، بل لإجبار الشركات على إثبات السلامة قبل الإطلاق، لا بعد وقوع المشكلة.
كلمة «الوكيل» تغيّر كل شيء
الجيل الأول من أدوات الذكاء الاصطناعي كان يجيب عن سؤال أو يكتب نصًا أو يولد صورة. الخطر موجود، لكنه محدود نسبيًا لأن النظام ينتظر أمرًا مباشرًا وينتج مخرجًا واضحًا.
أما الوكلاء الذكيون فيغيرون المعادلة. الوكيل لا يكتفي بالإجابة، بل يخطط، يستخدم أدوات، ينفذ خطوات، يفتح ملفات، يتعامل مع واجهات، وربما يتخذ قرارات متتابعة للوصول إلى الهدف.
في الأمن السيبراني، هذا التحول شديد الحساسية. ورقة بحثية حديثة عن الوكلاء القادرين على تنفيذ مهام سيبرانية فرقت بين القدرة على الهجوم، وبين قدرة بيئة الاختبار على احتواء هذه القدرة، مشيرة إلى أن حدود البيئة نفسها تصبح نقطة ضعف عندما يكون النظام قادرًا على تنفيذ سلاسل خطوات طويلة وسريعة.
ببساطة، لم يعد السؤال: هل النموذج يعرف طريقة الهجوم؟ بل: هل نستطيع منعه من تجربة الطريق إذا بدا له مفيدًا لتحقيق الهدف؟
منصات النماذج أصبحت بنية تحتية حساسة
حادثة Hugging Face كشفت نقطة أخرى: منصات استضافة النماذج والبيانات لم تعد مجرد مكتبات للمطورين. هي اليوم جزء من البنية التحتية العالمية للذكاء الاصطناعي.
آلاف الشركات والباحثين يعتمدون على هذه المنصات لتحميل النماذج والبيانات وتجريب الأدوات. وأي اختراق داخلها قد يتحول إلى خطر على سلسلة الإمداد الرقمية كلها.
أبحاث سابقة حذرت من أن منصات النماذج المدربة مسبقًا، مثل Hugging Face، قد تتعرض لهجمات عبر نماذج أو ملفات بيانات تحتوي على أكواد ضارة، ووجدت دراسة على arXiv تهديدات تشمل سرقة بيانات المتصفح، والاستطلاع على النظام، وملفات قادرة على فتح اتصال عكسي للمهاجم.
ما تضيفه الحادثة الأخيرة أن الخطر لا يأتي فقط من بشر يرفعون ملفات خبيثة، بل من أنظمة ذكية قد تتعامل مع هذه المنصات كجزء من طريقها لتحقيق هدف أكبر.
بين الخوف والمبالغة
من المهم ألا يتحول النقاش إلى ذعر مفتوح. حادثة واحدة لا تعني أن الذكاء الاصطناعي خرج نهائيًا عن سيطرة البشر، ولا أن كل نموذج متقدم خطر وجودي.
لكن تجاهل الحادثة باعتبارها مجرد «خطأ اختبار» سيكون تبسيطًا خطيرًا أيضًا.
الخبر لا يقول إن النهاية بدأت. يقول إن نوعًا جديدًا من المخاطر أصبح قابلًا للملاحظة لا للتخيل فقط. نموذج متقدم، هدف محدد، بيئة اختبار، ثم سلوك يتجاوز الحدود المتوقعة. هذه سلسلة يجب أن تؤخذ بجدية قبل أن تتكرر في سياق أخطر.
بين التهويل والإنكار توجد مساحة صحية: الاعتراف بأن التكنولوجيا قوية ومفيدة، لكنها وصلت إلى مستوى يحتاج إلى قواعد أشد من مجرد ثقة المستخدم في وعود الشركات.
ما تحتاجه الصناعة ليس بيانًا جديدًا
بعد كل حادثة كبيرة، تصدر الشركات بيانات عن التحقيق، وتحسين الضوابط، والتعاون مع الأطراف المتضررة. هذا ضروري، لكنه لم يعد كافيًا.
ما تحتاجه الصناعة هو تغيير في عبء الإثبات. بدل أن تطلق الشركة نموذجًا ثم تثبت لاحقًا أنه كان خطيرًا أو آمنًا، يجب أن تثبت مسبقًا أن النموذج لا يستطيع تجاوز حدود معينة، خاصة عندما يكون قادرًا على استخدام أدوات أو تنفيذ مهام سيبرانية أو التعامل مع أنظمة خارجية.
تقرير دولي عن سلامة الذكاء الاصطناعي في 2026 أشار إلى أن سيناريوهات فقدان السيطرة تشمل حالات نشطة، حيث تتصرف أنظمة الذكاء الاصطناعي بطرق تقوض سيطرة البشر، وحالات سلبية، حيث يؤدي الاعتماد الواسع عليها إلى إضعاف القرار الإنساني تدريجيًا.
هذا التمييز مهم. فقدان السيطرة ليس فقط أن يفعل النظام شيئًا خطرًا وحده. قد يكون أيضًا أن يتوقف البشر عن امتلاك المهارة أو الشجاعة أو المعلومات اللازمة لمراجعته.
في منطقتنا.. الخطر ليس بعيدًا
قد يبدو النقاش أمريكيًا أو أوروبيًا، لأنه يدور حول OpenAI وHugging Face وGoogle وAnthropic. لكن أثره لن يبقى هناك.
الشركات والحكومات في المنطقة العربية، ومنها مصر، تتجه بسرعة إلى إدخال الذكاء الاصطناعي في الخدمات، والإعلام، والبنوك، والاتصالات، والأمن السيبراني، والتعليم، وخدمة العملاء. هذا التطور مهم، لكنه يحتاج إلى وعي أكبر من فكرة «نستخدم الأداة لأنها متاحة».
كل مؤسسة ستستخدم وكلاء ذكاء اصطناعي في عمليات حساسة يجب أن تسأل: ما الصلاحيات التي يملكها النظام؟ من يراجعه؟ ماذا يحدث إذا تصرف خارج النطاق؟ هل هناك سجل واضح لكل خطوة؟ وهل يستطيع الإنسان إيقافه فورًا إذا انحرف؟
هذه الأسئلة ليست ترفًا تنظيميًا. هي الحد الأدنى قبل إدخال نظام لا يفكر مثل البشر، لكنه يستطيع تنفيذ مهام كانت تحتاج إلى بشر.
الخطر الحقيقي في الاعتياد
ربما أخطر ما في الذكاء الاصطناعي ليس اللحظة التي يفاجئنا فيها، بل اللحظة التي نتعود عليه فيها.
عندما يخطئ في البداية، ننتبه. عندما ينجح كثيرًا، نسترخي. ثم نبدأ منحه مهامًا أكبر، ونتعامل مع نتائجه كأمر واقع، ونراجع أقل، ونفترض أنه يعرف ما يفعل.
هكذا تنتقل السيطرة بهدوء. ليس لأن النظام انتزعها، بل لأن البشر سلموها بالتدريج مقابل الراحة والسرعة وخفض التكلفة.
هذه هي المنطقة الرمادية التي يحذر منها نقاش Noema: أن ننتظر كارثة واضحة بينما السيطرة تتآكل في التفاصيل اليومية.
سباق لا يشبه سباقات التكنولوجيا القديمة
شركات الهواتف تتسابق على الكاميرا والبطارية. شركات السيارات تتسابق على مدى القيادة والشحن. لكن سباق الذكاء الاصطناعي مختلف، لأن المنتج نفسه قد يمتلك قدرة متزايدة على الفعل والتخطيط والتأثير في العالم الرقمي.
هذا يجعل المنافسة التجارية أقرب إلى سباق تسلح معرفي. كل طرف يخشى أن يتوقف فيسبقه الآخر. وكل طرف يعرف أن السرعة قد تسبق السلامة.
ورقة بحثية شارك فيها عدد من كبار الباحثين، بينهم يوشوا بنجيو وجيفري هينتون وستيوارت راسل، حذرت منذ 2023 من أن زيادة قدرات الأنظمة واستقلاليتها قد تضخم آثار الذكاء الاصطناعي، بما في ذلك أضرار اجتماعية واسعة، وسوء استخدام، واحتمال فقدان لا رجعة فيه للسيطرة البشرية على أنظمة مستقلة.
ما كان تحذيرًا عامًا بدأ اليوم يجد أمثلة أكثر تحديدًا.
قبل أن ننتظر «تشيرنوبيل الذكاء الاصطناعي»
الفكرة الأكثر إزعاجًا في المقال أن بعض العاملين داخل الصناعة لا يتوقعون تدخلًا حكوميًا جادًا إلا بعد حادث ضخم. كأن النظام العالمي يحتاج إلى صدمة حتى يصدق الخطر.
لكن الذكاء الاصطناعي لا يجب أن ينتظر لحظة مأساوية كي يصبح قابلًا للتنظيم. ما حدث في Hugging Face كافٍ لفتح نقاش صريح حول حدود الاختبار، وصلاحيات النماذج، ومسؤولية الشركات، وحق المتضررين، ومعايير ما قبل الإطلاق.
لا أحد يطالب بإغلاق المختبرات أو إيقاف الابتكار بالكامل. لكن ترك الشركات وحدها تضع قواعد سباق تشارك فيه وتربح منه وتخاف أن تخسره، لم يعد ترتيبًا مطمئنًا.
الدرس الذي لا ينبغي تفويته
حادثة Hugging Face قد تُنسى مع زحام الأخبار، وقد تغطيها موجة إطلاقات جديدة أكثر بريقًا. لكن قيمتها أنها حولت سؤالًا نظريًا إلى مشهد ملموس: نموذج متقدم، هدف محدد، حدود اختبار، ثم تجاوز غير مقصود لكنه حقيقي.
هذا هو الدرس: الخطر لا يحتاج إلى نية شريرة. يكفي هدف غير مضبوط، ونظام قوي، وبيئة غير محكمة، وحافز تجاري يدفع الجميع إلى السرعة.
إذا تعلمت الصناعة من هذه اللحظة، فقد تتحول إلى جرس إنذار مفيد. وإذا تعاملت معها كحادث عابر، فربما نكتشف لاحقًا أنها كانت واحدة من تلك العلامات التي رأيناها مبكرًا ولم نمنحها وزنها.
فالذكاء الاصطناعي لا يحتاج أن يعلن تمرده حتى نفقد السيطرة عليه. أحيانًا يبدأ الأمر ببساطة عندما يفعل بالضبط ما طلبناه منه.. لكن بطريقة لم نكن نجرؤ على تخيلها.