المحتوى المسيء الناتج عن الذكاء الاصطناعي

لقد اتحد تحالف يضم منصات وسائل التواصل الاجتماعي الكبرى، ومطوري الذكاء الاصطناعي، والحكومات، والمنظمات غير الحكومية لمعالجة قضية المحتوى المسيء الناتج عن الذكاء الاصطناعي.

يضم بيان السياسة، الذي صدر في 30 أكتوبر/تشرين الأول، 27 موقعًا، من بينهم حكومات الولايات المتحدة وأستراليا وكوريا وألمانيا وإيطاليا، بالإضافة إلى منصات التواصل الاجتماعي مثل Snapchat وTikTok وOnlyFan.

الورقة سياسات منشورة معلن:

يقدم الذكاء الاصطناعي (AI) فرصًا هائلة للمساعدة في التصدي لخطر الاعتداء الجنسي على الأطفال عبر الإنترنت. لديها القدرة على تحويل وتعزيز قدرة الصناعة وإنفاذ القانون على اكتشاف حالات الاعتداء الجنسي على الأطفال. ولتحقيق ذلك، نؤكد أنه يجب علينا تطوير الذكاء الاصطناعي بطريقة تخدم الصالح العام المتمثل في حماية الأطفال من الاعتداء الجنسي في جميع الدول.

ويقر البيان بالفوائد المحتملة للذكاء الاصطناعي في مواجهة التهديدات عبر الإنترنت، خاصة فيما يتعلق بالاعتداء الجنسي على الأطفال.

ومع ذلك، فإنه يؤكد على ضرورة توخي اليقظة ضد الاستخدام الضار، حيث يمكن أيضًا استخدام الذكاء الاصطناعي لإنتاج محتوى ضار.

وكجزء من التزامه، تعهد التحالف بالعمل بشكل تعاوني لفهم ومعالجة المخاطر التي يشكلها الذكاء الاصطناعي في مكافحة الاعتداء الجنسي على الأطفال.

ويتم تشجيع الشفافية والحوار المفتوح بين أصحاب المصلحة، إلى جانب وضع سياسات فعالة على المستوى الوطني.

نحن عازمون على العمل معًا للتأكد من أننا نستخدم الذكاء الاصطناعي المسؤول لمعالجة تهديد الاعتداء الجنسي على الأطفال ونلتزم بمواصلة العمل بشكل تعاوني لضمان ألا تصبح المخاطر التي يشكلها الذكاء الاصطناعي في معالجة الاعتداء الجنسي على الأطفال أمرًا لا يمكن التغلب عليه. سنسعى إلى فهم المخاطر الناشئة عن الذكاء الاصطناعي والتعامل معها، حسب الاقتضاء، في معالجة الاعتداء الجنسي على الأطفال من خلال المنتديات القائمة. ولجميع الجهات الفاعلة دور تلعبه في ضمان سلامة الأطفال من مخاطر الذكاء الاصطناعي الحدودي.

مخاوف بشأن الأطفال في عصر الذكاء الاصطناعي

أشارت المملكة المتحدة إلى بيانات منمؤسسة مراقبة الإنترنت (IWF) ، وكشف أن المستخدمين داخل منتدى الويب المظلم قاموا بتوزيع ما يقرب من 3000 صورة لمواد الاعتداء الجنسي على الأطفال التي أنشأها الذكاء الاصطناعي.

وفي ضوء القمة العالمية القادمة حول سلامة الذكاء الاصطناعي في المملكة المتحدة، يؤكد إصدار هذا البيان على القلق المتزايد بشأن قضايا سلامة الأطفال في سياق تقدم تكنولوجيا الذكاء الاصطناعي.

في الآونة الأخيرة،اتخذت الولايات المتحدة أيضًا إجراءات، حيث رفعت عدة ولايات دعوى قضائية ضد ميتا ، الشركة الأم لفيسبوك وإنستغرام، مشيرة إلى مخاوف مماثلة تتعلق بسلامة الأطفال.