OpenAI: تحسين دقة النموذج لتقليل مشكلة هلوسة الهمس

أعرب مهندسو البرمجيات والمطورون والباحثون الأكاديميون عن مخاوفهم بشأن التأثير المحتمل لأداة النسخ Whisper الخاصة بـ OpenAI. يقول الباحثون إن Whisper أدخل كل شيء بدءًا من التعليقات العنصرية وحتى العلاجات الطبية المتخيلة في النصوص. قد يكون لهذا عواقب وخيمة بشكل خاص نظرًا لاستخدام Whisper في المستشفيات والأماكن الطبية الأخرى. وجد باحث من جامعة ميشيغان يدرس الاجتماعات العامة أن الهلوسة حدثت في 8 من أصل 10 نصوص صوتية. درس أحد مهندسي التعلم الآلي أكثر من 100 ساعة من تدوينات Whisper، ووجد أن الهلوسة حدثت في أكثر من نصفها. أبلغ أحد المطورين عن العثور على هلوسة في جميع النسخ الـ 26000 التي قام بإنشائها باستخدام Whisper تقريبًا. وقال متحدث باسم OpenAI إن الشركة "تعمل باستمرار على تحسين دقة نماذجها، بما في ذلك تقليل الهلوسة"، مشيرًا إلى أن سياسة الاستخدام الخاصة بها تحظر استخدام Whisper في "بيئات معينة لصنع القرار عالية المخاطر". (أسوشيتد برس)