الصورة: MLYearning
كشفت جامعة نورث وسترن مؤخرًا عن ثغرة أمنية خطيرة في المحولات التوليدية المدربة مسبقًا (GPTs).
على الرغم من تنوعها وقدرتها على التكيف، فإن روبوتات الدردشة المتقدمة هذه التي تعمل بالذكاء الاصطناعي معرضة لهجمات الحقن السريعة، مما يؤدي إلى المخاطرة بكشف المعلومات الحساسة.
تتضمن GPTs المخصصة، التي تم تطويرها باستخدام ChatGPT من OpenAI ونموذج اللغة الكبير GPT-4 Turbo، عناصر فريدة مثل المطالبات المحددة ومجموعات البيانات وتعليمات المعالجة للمهام المتخصصة.
الصورة: فك التشفير
ومع ذلك، يمكن الوصول بسهولة إلى هذه التخصيصات وأي بيانات سرية مستخدمة في إنشائها من قبل أطراف غير مصرح لها.
أظهرت تجربة أجرتها شركة Decrypt سهولة استخراج البيانات السريعة والسرية الكاملة لـ GPT من خلال القرصنة السريعة الأساسية.
ومن خلال اختبار أكثر من 200 نقطة GPT مخصصة، وجد الباحثون احتمالًا كبيرًا لحدوث مثل هذه الانتهاكات، بما في ذلك احتمال استخراج المطالبات الأولية والوصول إلى الملفات الخاصة.
تسلط الدراسة الضوء على خطرين رئيسيين: الملكية الفكرية المخترقة وخصوصية المستخدم المنتهكة.
يمكن للمهاجمين استغلال GPTs إما لاستخراج التكوين الأساسي والمطالبة ("استخراج موجه النظام") أو تسريب مجموعات بيانات التدريب السرية ("تسريب الملفات").
أثبتت الدفاعات الحالية مثل المطالبات الدفاعية عدم فعاليتها ضد المطالبات الخصومة الأكثر تطوراً.
ويدعو الباحثون إلى اتباع نهج أكثر شمولاً لحماية نماذج الذكاء الاصطناعي هذه، مع التركيز على أن المهاجمين المصممين يمكنهم على الأرجح استغلال نقاط الضعف الحالية.
وتدعو الدراسة مجتمع الذكاء الاصطناعي إلى تطوير تدابير أمنية أقوى، مما يشير إلى أن المطالبات الدفاعية البسيطة غير كافية ضد تقنيات الاستغلال المتقدمة هذه.
مع التخصيص المتزايد لـ GPTs الذي يوفر إمكانات هائلة، يعد هذا البحث بمثابة تذكير مهم بالمخاطر الأمنية التي تنطوي عليها.
ويُنصح المستخدمون بتوخي الحذر، خاصة فيما يتعلق بالبيانات الحساسة، مع التأكيد على الحاجة إلى تعزيز أمان الذكاء الاصطناعي دون المساس بخصوصية المستخدم وسلامته.
الدراسة الكاملة لجامعة نورث وسترن متاحة للقراءةهنا .
تعمل شركة OpenAI على تكثيف الجهود من خلال إصدار خليفة لـGPT-4، مع التركيز على السلامة. وسط التدقيق الأخلاقي والانتقادات، تم تشكيل لجنة للسلامة والأمن لمعالجة المخاوف وضمان التطوير المسؤول للذكاء الاصطناعي.
Huang Boجعلت OpenAI إمكانية الوصول إلى ChatGPT دون الحاجة إلى التسجيل، وذلك بهدف إضفاء الطابع الديمقراطي على الوصول إلى الذكاء الاصطناعي. مع تعزيز إمكانية الوصول، تضمن الشركة سلامة المستخدم من خلال ضمانات إضافية للمحتوى. وعلى الرغم من مواجهة تحديات مثل تباطؤ النمو والنزاعات القانونية، فإن هذه الخطوة تعكس اتجاها أوسع لإضفاء الطابع الديمقراطي على التكنولوجيات التحويلية. ومع ذلك، لا تزال هناك شكوك بشأن اتجاه الذكاء الاصطناعي واحتمال إساءة استخدامه، مما يثير المخاوف بشأن الانحراف عن المهام الأصلية.
Sanyaمنذ أن أطلقت شركة OpenAI متجر GPT في نوفمبر من العام الماضي، ظهرت الملايين من GPTs لسيناريوهات مختلفة مثل المكتب والتعليم والحياة والترفيه. وأصبحت GPTs أدوات مساعدة للعديد من الأشخاص في التعامل مع العمل، وتحسين مهارات الكتابة، والحصول على الإلهام الإبداعي.
JinseFinanceيواجه متجر OpenAI GPT عقبات ما قبل الإطلاق مع النسخ غير المصرح به للتطبيق، مما يثير مخاوف بشأن حماية الملكية الفكرية وإدارة النظام الأساسي، مما يثير الشكوك أمام المطورين الذين ينتظرون التوجيه.
Xu Linفي عالم تكنولوجيا الذكاء الاصطناعي المتطورة، تقدم WeHead بجرأة إصدار WeHead GPT، بسعر مذهل يبلغ 5000 دولار. يتميز مساعد الذكاء الاصطناعي هذا بتوفير وجه مادي للمستخدمين للتفاعل معه، مما يثير مناقشات مثيرة للاهتمام حول مستقبل رفقة الذكاء الاصطناعي والتطبيق العملي للتكنولوجيا الإنسانية.
Xu LinJinseFinanceJinseFinanceJinseFinanceيعمل الإصدار الأخير على تحويل تفاعلات الذكاء الاصطناعي من خلال توسيع قاعدة المعرفة حتى أبريل 2023 وتقديم الدعم للمستندات المكونة من 300 صفحة.
JixuJinseFinance