آسيا تك 2023: معالجة المعلومات المضللة في جيل ChatGPT

يعد Asia Tech x Singapore (ATxSG) الحدث التكنولوجي الأول في آسيا حيث تتلاقى عوالم التكنولوجيا والمجتمع والاقتصاد الرقمي. تم تنظيم ATxSG من قبل هيئة تطوير وسائل الإعلام المعلوماتية (IMDA) وInforma Tech، بدعم قيم من مجلس السياحة السنغافوري (STB)، كمركز للمناقشات الجذابة التي لا يمكن أن تتكشف إلا في سنغافورة، حيث تربط بين مجالات الأعمال والتكنولوجيا والحكومة.

في الفترة من 7 إلى 9 يونيو 2023، اعتلت ATxSG المسرح، حيث قدمت عددًا كبيرًا من الأحداث ذات الموقع المشترك التي مكنت المشاركين من تعزيز الاتصالات القيمة والبقاء في صدارة المنحنى في مشهد التكنولوجيا دائم التطور. يعد هذا الحدث بمثابة منصة لا مثيل لها حيث يجتمع أصحاب الرؤى والخبراء والمتحمسين من قطاعات متنوعة لاستكشاف أحدث اتجاهات التكنولوجيا، ومعالجة التحديات الملحة، وفتح فرص لا حصر لها.

كيفية مكافحة التضليل في عصر ChatGPT
برزت قضية المعلومات المضللة المنتشرة باعتبارها مصدر قلق عالمي ملح، مما يؤثر على الأفراد والهيئات الحكومية والشركات على حد سواء. في هذا العصر الذي يتميز بظهور تقنيات رائعة مثل الذكاء الاصطناعي التوليدي (AI)، الذي تجسده القدرات الرائعة لـ ChatGPT، تنشأ معضلة حاسمة: في حين أنها تمتلك إمكانات هائلة لأغراض بناءة، لا يزال هناك تخوف واضح يحيط باستغلالها كأداة. أداة قوية لتضخيم الروايات الخادعة.

في ضوء هذه المعضلة، يصبح من الضروري استكشاف تدابير فعالة للحد من انتشار المعلومات المضللة في عالم الإنترنت. كيف يمكننا أن نحبط بشكل فعال نشر الأكاذيب؟ ما هي الاستراتيجيات التي يمكن استخدامها لمواجهة المعلومات الخاطئة وتعزيز الانسجام في عالم متزايد الاستقطاب؟

وقد تمت مناقشة هذا الأمر باستفاضة خلال حلقة النقاش التي عقدت خلال اليوم الثاني من معرض آسيا تك 2023 في معرض سنغافورة. خلال حلقة النقاش التي كانت بعنوان "كيفية مكافحة التضليل في عصر ChatGPT"، حضر مسؤولون تنفيذيون بارزون لتقديم وجهات نظرهم، بما في ذلك الدكتور فريزلين ثينج، نائب الرئيس الأول ورئيس مركز التكنولوجيا الاستراتيجية للأمن السيبراني من ST Engineering؛ كيم هونغ ماك، مالك المنتج، تحليل البيانات والحوكمة من بنك سنغافورة؛ سيمون تشيسترمان، نائب العميد، مدير أول (حوكمة الذكاء الاصطناعي) من جامعة سنغافورة الوطنية (NUS)؛ ووارن شيك، أستاذ مشارك في القانون، نائب مدير مركز الذكاء الاصطناعي وإدارة البيانات من جامعة SMU. أدارت الجلسة ماري تيو، مديرة المجتمع والشراكات والشراكات. مبادرات من معهد توني بلير للتغير العالمي.

تتداخل المعلومات المضللة مع الأكاذيب
"تتداخل المعلومات المضللة مع الأكاذيب، ولكن ليس فقط الأشياء غير الحقيقية هي ما يقلقنا. أعني، الهجاء والمحاكاة الساخرة والشائعات، لا يهمنا بالضرورة. الطريقة التي أحب أن أفكر بها هي مصفوفة رتبتها اثنان في اثنين. هناك بعض الأشياء الحقيقية، وبعض الأشياء الخاطئة، ونحن نناقش مزايا ذلك... ولكن عليك أيضًا أن تفكر في القصد. هل النية طيبة أم النية سيئة؟ لذا، إذا فكرت في هذه المصفوفة التي تتكون من اثنين في اثنين، إذن: صحيح، كاذب، حسن النية، نية سيئة،" وأوضح سيمون.

وأعرب عن أن إحدى أكبر المشاكل في مساحات وسائل التواصل الاجتماعي هي الكذب بحسن النية. إنه يشبه مشاركة الأشخاص للمعلومات ولكنهم لا يهتمون حقًا بما إذا كانت صحيحة أم خاطئة، وطالما أن المعلومات محفزة. وهذا ما يسمى بالمعلومات الخاطئة، وفقًا لسيمون، وهي في الأساس معلومات كاذبة يتم مشاركتها ببراءة. ولكن بالنسبة للمعلومات المضللة، فهذا يعني مشاركة نوايا زائفة عن عمد. هناك فئة ثالثة أطلق عليها اسم "المعلومات الضارة"، وهي مشاركة معلومات صحيحة بشكل معقول مع نية سيئة.

إن سرعة دمج المعلومات المضللة نتيجة للذكاء الاصطناعي التوليدي غير مسبوقة
أرجع كيم هونغ ماك انتشار المعلومات المضللة في عصر الذكاء الاصطناعي التوليدي إلى ثلاثة أشياء: السرعة والحجم والأصالة. لقد أصبح من الصعب أكثر فأكثر التمييز بين الأخبار الحقيقية والأخبار الناتجة عن برنامج الذكاء الاصطناعي. حتى بالنسبة لمقاطع الفيديو، يمكن كتابة النص بالكامل بواسطة برنامج الذكاء الاصطناعي، وما هو أكثر من الأخبار.

في هذه الحالة، في أي عمل تجاري، أول شيء هو الثقة دائمًا. والتعليم مهم جدا. أولاً، بالنسبة للموظفين داخل المؤسسة، يجب أن يكونوا قادرين على التعرف على المعلومات المزيفة والإبلاغ عنها إذا كان هناك أي شيء يبدو مريبًا. بطريقة ما، هم زوج أعيننا الإضافي. ثانياً، العملاء، الذين هم محور أي عمل تجاري.

وفي نهاية المطاف، فهي النتيجة والمنتج النهائي لما تم إنشاؤه
أوضح الدكتور فريزلين ثينج، "عندما ننظر إلى مسار الكشف والوقاية بالإضافة إلى التخفيف، علينا أن ننظر إليه من زاوية أكثر شمولية... عندما يتم إنشاء نماذج الذكاء الاصطناعي التوليدية، هل هناك أي طريقة لجعلها أكثر حساسية للحقائق ؟ لأننا جميعًا ندرك مشكلة هلوسة الذكاء الاصطناعي هذه. هل يقومون بفحص البيانات والتحقق منها وتنظيفها قبل إرسالها للتدريب حتى يتمكن الذكاء الاصطناعي من الأداء بشكل أفضل فيما يتعلق بإنتاج معلومات واقعية؟

الزاوية الأخرى التي يمكن النظر فيها هي تضمين أنماط معينة في البيانات التي يتم إنشاؤها بواسطة كل هذه النماذج بحيث يصبح من الأسهل اكتشاف أنها بيانات تركيبية وليست بيانات من صنع الإنسان.

إن حظر الذكاء الاصطناعي التوليدي أمر مستبعد للغاية بالنسبة لمعظم البلدان
أوضح وارن تشيك أن سنغافورة تتبع نهجًا تيسيريًا للغاية وعلينا أن نتعايش مع المعلومات الخاطئة هناك. عندما يكون لهذا النوع من المعلومات تأثير سلبي، فهذا هو الوقت الذي تتدخل فيه الحكومة. وعندما نتحدث عن أشياء مثل التكنولوجيا، شعر أنه لا يزال هناك القليل من الشكوك هناك. وفيما يتعلق بالتنظيم، تلعب الاختلافات السياسية والثقافية دورًا أيضًا.

بشكل عام، يجب أن يكون هناك تركيز أقوى على الأخلاق والشفافية والصدق في الطريقة التي يدير بها الناس ويطلقون بعض هذه المنتجات. هناك أيضًا توازن دقيق حقًا بين الإفراط في التنظيم أو نقص التنظيم لأننا لا نريد الحد من الابتكار والقدرات التحويلية لهذه التقنيات.