تواجه أبل وجوجل ضغوطًا قانونية جديدة لإزالة تطبيقات تعتمد على الذكاء الاصطناعي في إنشاء صور عارية مزيفة لأشخاص دون موافقتهم، في خطوة تعكس تصاعد القلق العالمي من تحول أدوات تحرير الصور إلى وسيلة سهلة للابتزاز والتشهير وانتهاك الخصوصية.
موضوعات مقترحة
وذكر موقع TechCrunch أن المدعي العام لمدينة سان فرانسيسكو، ديفيد تشيو، أرسل خطابات إيقاف وكف إلى شركتي أبل وجوجل، مطالبًا بحذف عدد من تطبيقات ما يُعرف باسم “nudify” من متجر App Store ومتجر Google Play، بسبب استخدامها في إنشاء صور جنسية مزيفة وغير consensual لأشخاص حقيقيين.
ما تطبيقات «nudify»؟
تطبيقات «nudify» هي أدوات تستخدم الذكاء الاصطناعي لتعديل الصور العادية وجعل الأشخاص يظهرون وكأنهم عراة أو في أوضاع جنسية، رغم أن الصور الأصلية لا تحتوي على ذلك.
الخطورة هنا لا تكمن في التقنية وحدها، بل في سهولة استخدامها. فبدل أن تكون هذه الأدوات محصورة في برامج معقدة، أصبحت متاحة عبر تطبيقات هاتفية بواجهات بسيطة واشتراكات مدفوعة، ما يفتح الباب أمام إساءة استخدامها ضد النساء والفتيات والمراهقين والشخصيات العامة والمستخدمين العاديين.
لماذا تستهدف السلطات أبل وجوجل؟
التحرك القانوني لا يستهدف مطوري التطبيقات فقط، بل يضع المسؤولية أيضًا على متاجر التطبيقات التي تسمح بوجود هذه الأدوات أو تستفيد من رسوم الاشتراكات والمدفوعات داخلها.
وتقول السلطات إن وجود هذه التطبيقات داخل متاجر رسمية يمنحها قدرًا من الثقة والانتشار، كما يجعل الوصول إليها أسهل، خصوصًا إذا ظهرت في نتائج البحث أو الإعلانات أو التوصيات.
وبذلك لم تعد القضية مجرد تطبيق مخالف، بل اختبار حقيقي لقدرة أبل وجوجل على ضبط منصاتهما وحماية المستخدمين من أدوات قد تُستخدم في انتهاكات جسيمة.
هل هي مشكلة قانونية أم أخلاقية؟
هي الاثنان معًا. إنشاء صور جنسية مزيفة لشخص دون موافقته يُعد اعتداءً على الخصوصية والكرامة، وقد يتحول إلى وسيلة للابتزاز أو التنمر أو الإضرار بالسمعة.
كما أن الضحية قد تواجه ضررًا نفسيًا واجتماعيًا حتى لو كانت الصورة مزيفة، لأن انتشارها على الإنترنت قد يكون كافيًا لإحداث أذى واسع يصعب احتواؤه.
ولهذا تتعامل جهات تنظيمية وقانونية في دول عدة مع هذه التطبيقات باعتبارها تهديدًا مباشرًا، لا مجرد استخدام سيئ لتقنية محايدة.
لماذا يصعب ضبط هذه التطبيقات؟
المشكلة أن بعض التطبيقات لا تعلن عن نفسها صراحة كتطبيقات «تعري»، بل تستخدم أوصافًا عامة مثل تبديل الوجوه أو تحرير الصور أو تحسين الصور بالذكاء الاصطناعي.
وبعد التثبيت، قد تظهر الوظائف الأخطر داخل التطبيق أو عبر نماذج مدفوعة أو محتوى يتم توجيه المستخدم إليه لاحقًا.
هذا الأسلوب يجعل مهمة مراجعة التطبيقات أكثر صعوبة، لأن واجهة المتجر قد تبدو آمنة، بينما تسمح الوظائف الداخلية بإنتاج محتوى ضار أو غير قانوني.
ثغرة في نظام المراجعة
تعتمد أبل وجوجل على مزيج من المراجعة البشرية والآلية قبل قبول التطبيقات، لكن ظهور هذه النوعية من الأدوات يكشف أن أنظمة الفحص التقليدية لا تكفي دائمًا أمام تطبيقات الذكاء الاصطناعي.
فالتطبيق قد لا يحتوي على صور مخالفة عند المراجعة، لكنه يوفر للمستخدم القدرة على إنشائها بعد التحميل. وهذا يعني أن الخطر لا يظهر فقط في المحتوى الموجود داخل التطبيق، بل في نوعية المخرجات التي يسمح بإنتاجها.
ومع تطور الذكاء الاصطناعي، ستحتاج المتاجر إلى قواعد أكثر صرامة لا تكتفي بمراجعة الشكل الخارجي للتطبيق، بل تختبر قدراته الفعلية وحدود الأمان داخله.
ماذا قالت أبل وجوجل؟
أشارت تقارير صحفية إلى أن أبل تؤكد حظر التطبيقات المصممة لإنشاء أو توزيع أو استهلاك محتوى إباحي داخل متجرها، بينما قالت جوجل إنها تتخذ إجراءات ضد التطبيقات التي تخالف سياساتها.
لكن الضغوط الأخيرة تعني أن السلطات لا تكتفي بالتصريحات العامة، بل تريد إزالة واضحة للتطبيقات، ومراجعة أوسع لطرق تحقيق الأرباح منها، ومنع عودتها بأسماء أو واجهات مختلفة.
خطر يتجاوز المتاجر الأمريكية
رغم أن التحرك جاء من سان فرانسيسكو، فإن القضية لا تخص الولايات المتحدة وحدها.
تطبيقات الهواتف تعمل عالميًا، ويمكن أن يتعرض أي مستخدم في أي دولة لخطر التلاعب بصوره أو استخدام صور أصدقائه وزملائه وعائلته في محتوى مزيف.
وفي مجتمعات محافظة مثل المنطقة العربية، قد يكون الضرر الاجتماعي لهذه الصور مضاعفًا، حتى عندما يكون معروفًا أنها مولدة بالذكاء الاصطناعي.
لذلك، فإن حذف هذه التطبيقات من المتاجر الكبرى قد يقلل انتشارها عالميًا، لكنه لا يلغي الحاجة إلى وعي المستخدمين وقوانين محلية واضحة ضد إساءة استخدام الصور.
الذكاء الاصطناعي يحتاج إلى حواجز أمان
تؤكد هذه القضية أن تطبيقات الذكاء الاصطناعي لا يمكن التعامل معها كأدوات تحرير صور عادية.
أي تطبيق قادر على تعديل صورة شخص حقيقي أو تبديل وجهه أو توليد محتوى حميمي يجب أن يخضع لحواجز أمان قوية، تشمل منع إنشاء صور جنسية غير موافق عليها، والتحقق من السياسات، وآليات الإبلاغ السريعة، وحذف المحتوى المخالف.
كما يجب أن تكون المتاجر أكثر حذرًا مع التطبيقات التي تستخدم عبارات تسويقية غامضة لكنها تقود في النهاية إلى وظائف خطرة.
ماذا يفعل المستخدم إذا تعرض للضرر؟
إذا اكتشف المستخدم أن صورته استُخدمت في محتوى مزيف، يجب عليه حفظ الأدلة قبل حذف الروابط، مثل لقطات الشاشة وروابط الصفحات واسم التطبيق والحسابات التي نشرت المحتوى.
بعد ذلك، يمكن الإبلاغ داخل المنصة التي نُشر عليها المحتوى، وتقديم بلاغ إلى متجر التطبيقات ضد التطبيق، والتواصل مع الجهات القانونية المختصة إذا كان المحتوى يُستخدم في ابتزاز أو تشهير.
كما يجب عدم الاستجابة لأي محاولة ابتزاز، وعدم إرسال أموال أو صور إضافية، لأن ذلك غالبًا يزيد سيطرة المعتدي بدل أن ينهي المشكلة.
رسالة إلى متاجر التطبيقات
لم تعد متاجر التطبيقات مجرد منصات توزيع تقنية، بل أصبحت بوابات تتحكم في وصول ملايين المستخدمين إلى أدوات قد تكون نافعة أو خطرة.
ولهذا، فإن وجود تطبيقات قادرة على إنتاج صور جنسية مزيفة داخل متاجر رسمية يطرح سؤالًا مهمًا: هل تكفي قواعد المراجعة الحالية لحماية المستخدمين في عصر الذكاء الاصطناعي؟
التحرك ضد تطبيقات «nudify» قد يكون خطوة أولى، لكنه لن يكون الأخيرة، لأن أدوات التلاعب بالصور والفيديو أصبحت أسرع وأسهل وأرخص.
حماية الخصوصية تبدأ من المنصة
في النهاية، تكشف هذه القضية أن مسؤولية أبل وجوجل لا تقف عند حذف تطبيقات محددة بعد افتضاحها، بل تمتد إلى بناء نظام أكثر صرامة لا يسمح بعودة الأدوات نفسها تحت أسماء جديدة.
فكلما أصبح الذكاء الاصطناعي قادرًا على إنتاج محتوى أكثر واقعية، أصبح الضرر الناتج عن إساءة استخدامه أكبر.
وبين حماية الابتكار وحماية البشر، تبدو الرسالة واضحة: لا يمكن للمتاجر الرقمية أن تربح من تطبيقات قد تحول صورة عادية إلى أداة ابتزاز وانتهاك.