Close ad

دراسة: منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين

19-5-2024 | 14:05
دراسة منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمينمنصات دردشة الذكاء الاصطناعي
الألمانية

 أظهرت دراسة أمريكية حديثة أن منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين لأنها تميل إلى تقديم إجابات تتفق مع آراء المستخدمين بشكل متكرر.

موضوعات مقترحة

وقال شيانج شياو الباحث في جامعة جونز هوبكنز الأمريكية "لأن الناس تقرأ فقرات ملخصة باستخدام الذكاء الاصطناعي، فإنهم يعتقدون أنهم حصلوا على إجابات موضوعية تستند إلى الحقائق".

لكن شياو وزملاءه في فريق البحث يرون  أن هذه الافتراضات خطأ بدرجة كبيرة، في ضوء دراسة  نتائج اختبارات شملت 272 شخصا طلبوا منهم استخدام محركات بحث الإنترنت العادية أو الذكاء الاصطناعي للمساعدة في كتابة قصص إخبارية في الولايات المتحدة عن موضوعات مثل الرعاية الصحية أو القروض الدراسية.

"غرفة الصدى"

وبحسب الدراسة فإن تأثير ما يعرف باسم "غرفة الصدى" يزيد عندما يطلب الأشخاص المعلومات من منصات ذكاء اصطناعي تستخدم نماذج لغوية كبيرة مقارنة بطلب المعلومات من محركات البحث التقليدية على الإنترنت.

وقال شياو  قبل إعلان نتائج الدراسة أمام مؤتمر جمعية أجهزة الحوسبة حول العوامل الإنسانية في أنظمة الحوسبة "حتى إذا لم تكن منصات المحادثة مصممة لكي تكون منحازة، فإن إجاباتها (على أسئلة المستخدم) تعكس  انحيازات أو ميول الشخص الذي يطرح الأسئلة. لذلك  سيحصل الأشخاص على الإجابات التي يريدون سماعها" حتى لو لم تكن هي الإجابات المثالية.

يذكر أنه تم نشر نتائج هذه الدراسة في دورية "سيل برس" العلمية يوم 10 مايو الحالي، وأظهرت أنه يمكن استخدام الذكاء الاصطناعي في الخداع في مجموعة كبيرة من المواقف بدءا من لعبة البوكر وحتى المحاكيات الدبلوماسية.

كلمات البحث
اقرأ أيضًا:
الأكثر قراءة