Close ad

يقدم نصائح كارثية.. خطوة جديدة من شركات الذكاء الاصطناعي لوقف الردود الغبية واللا أخلاقية

22-5-2024 | 13:34
يقدم نصائح كارثية خطوة جديدة من شركات الذكاء الاصطناعي لوقف الردود الغبية واللا أخلاقيةأرشيفية
الضوي أحمد

أجرى مطورو النماذج اللغوية الضخمة التي تم إصدارها مؤخراً، عددًا من الاختبارات والجهود الداخلية لاختبار مدى سلامة ردود روبوتات الدردشة.

موضوعات مقترحة

وأكدت شركة Anthropic، مطورة روبوت الدردشة Claude، أن الأولوية لنموذج Claude 2 هي "تجنّب الردود الضارة، أو غير القانونية، أو غير الأخلاقية قبل حدوثها".

وكان بحث جديد أثبت أن الإجراءات الوقائية التي تهدف لمنع نماذج الذكاء الاصطناعي من إصدار ردود غير قانونية أو مخالفة لمعايير الأمان والسلامة، يمكن تجاوزها بطرق بسيطة.

ومن جانبها نفت شركة أوبن ايه آي، مطورة نموذج GPT-4 الذي يدعم روبوت الدردشة ChatGPT، أنها تسمح باستخدام تقنيتها "لإنتاج محتوى مخالف، أو عنيف، أو للبالغين فقط".

وقال مدير ومؤسس "ميتا" مارك زوكربيرج، إن نموذجها Llama 2 خضع لاختبارات لتحديد الفجوات في الأداء، والتخفيف من الردود المحتملة المثيرة للمشاكل في استخدامات المحادثة.

وقالت شركة جوجل أن نموذج Gemini الذكي يتضمن أنظمة فلترة مدمجة لمواجهة مشكلات مثل "اللغة السامة، وخطاب الكراهية".

وكشف معهد سلامة الذكاء الاصطناعي في المملكة المتحدة (AISI)، بأنه اختبر 5 نماذج لغوية كبيرة (LLM)، لم يكشف عنها، حيث تمكّن من تجاوز إجراءاتها الوقائية بسهولة، مشيرًا إلى أن النماذج الخمسة مستخدمة بالفعل بشكل واسع.

وقال باحثون فى المعهد: "جميع نماذج اللغة الكبيرة التي تم اختبارها لا تزال عُرضة للاختراقات الأساسية، وبعضها يقدّم مخرجات ضارة حتى دون محاولات مخصصة لتجاوز إجراءاتها الوقائية".

ووجد البحث أيضًا أن عدة نماذج للغة الكبيرة أظهرت معرفة بمستوى الخبراء في الكيمياء والبيولوجيا، لكنها واجهت صعوبة في الاختبارات الدراسية الجامعية المصممة لتقييم قدرتها على تنفيذ الهجمات الإلكترونية.

كما أن الاختبارات أظهرت أن النماذج واجهت صعوبة في تخطيط وتنفيذ تسلسلات من الإجراءات للمهام المعقدة، أو تنفيذ المهام دون إشراف بشري.

وتم إصدار البحث قبل قمة عالمية للذكاء الاصطناعي في العاصمة الكورية الجنوبية سول تستمر ليومين، سيتم خلالها افتتاح الجلسة الافتراضية برئاسة مشتركة لرئيس الوزراء البريطاني ريشي سوناك، حيث سيناقش السياسيون والخبراء والتنفيذيون التكنولوجيون قضايا الأمان وتنظيم التكنولوجيا.

كما أعلن المعهد عن خططه لفتح أول مكتب له في الخارج في سان فرانسيسكو، حيث مقرات شركات التكنولوجيا العملاقة مثل Meta، وOpenAI، وAnthropic.

كلمات البحث
اقرأ أيضًا: