18 دولة تصدر مبادئ توجيهية عالمية لتطوير نظام الذكاء الاصطناعي الآمن

وفقًا لكوينتيليغراف، أصدرت الولايات المتحدة والمملكة المتحدة وأستراليا و١٥ دولة أخرى مبادئ توجيهية عالمية للمساعدة في حماية نماذج الذكاء الاصطناعي من العبث بها، وحثت الشركات على جعل نماذجها "آمنة حسب التصميم". في 26 نوفمبر، أصدرت الدول الثمانية عشر وثيقة من 20 صفحة توضح كيف ينبغي لشركات الذكاء الاصطناعي التعامل مع أمنها السيبراني عند تطوير أو استخدام نماذج الذكاء الاصطناعي، حيث زعمت أن "الأمن يمكن أن يكون في كثير من الأحيان اعتبارًا ثانويًا" في الصناعة سريعة الخطى. تتألف المبادئ التوجيهية في الغالب من توصيات عامة مثل الحفاظ على قيود مشددة على البنية التحتية لنموذج الذكاء الاصطناعي، ومراقبة أي تلاعب بالنماذج قبل وبعد الإصدار، وتدريب الموظفين على مخاطر الأمن السيبراني. لم يتم ذكر بعض القضايا المثيرة للجدل في مجال الذكاء الاصطناعي، بما في ذلك الضوابط المحتملة التي يجب أن تكون موجودة حول استخدام نماذج توليد الصور والتزييف العميق أو طرق جمع البيانات واستخدامها في نماذج التدريب - وهي المشكلة التي أدت إلى رفع دعوى قضائية ضد العديد من شركات الذكاء الاصطناعي بشأن انتهاك حقوق الطبع والنشر. المطالبات. وقال وزير الأمن الداخلي الأميركي أليخاندرو مايوركاس في بيان: «نحن عند نقطة انعطاف في تطوير الذكاء الاصطناعي، الذي قد يكون التكنولوجيا الأكثر أهمية في عصرنا». "إن الأمن السيبراني هو المفتاح لبناء أنظمة الذكاء الاصطناعي التي تكون آمنة ومأمونة وجديرة بالثقة." تتبع المبادئ التوجيهية المبادرات الحكومية الأخرى التي تؤثر على الذكاء الاصطناعي، بما في ذلك اجتماع الحكومات وشركات الذكاء الاصطناعي لحضور قمة سلامة الذكاء الاصطناعي في لندن في وقت سابق من هذا الشهر لتنسيق اتفاق بشأن تطوير الذكاء الاصطناعي. وفي الوقت نفسه، يقوم الاتحاد الأوروبي بدراسة تفاصيل قانون الذكاء الاصطناعي الذي سيشرف على الفضاء، وأصدر الرئيس الأمريكي جو بايدن أمرًا تنفيذيًا في أكتوبر يحدد معايير سلامة وأمن الذكاء الاصطناعي - على الرغم من أن كلاهما شهد معارضة من صناعة الذكاء الاصطناعي بدعوى أنهما قادران على ذلك. خنق الابتكار. ومن بين الموقعين الآخرين على إرشادات "التصميم الآمن" الجديدة كندا وفرنسا وألمانيا وإسرائيل وإيطاليا واليابان ونيوزيلندا ونيجيريا والنرويج وكوريا الجنوبية وسنغافورة. كما ساهمت شركات الذكاء الاصطناعي، بما في ذلك OpenAI وMicrosoft وGoogle وAnthropic وScale AI، في تطوير المبادئ التوجيهية.