亚洲科技 2023：应对 ChatGPT 时代的虚假信息

亚洲科技新加坡展（ATxSG）是亚洲首屈一指的科技盛会，是科技、社会和数字经济世界的交汇点。ATxSG 由新加坡资讯通信媒体发展管理局（IMDA）和 Informa Tech 联合主办，并得到了新加坡旅游局（STB）的大力支持，是只有在新加坡才能展开的引人入胜的讨论的中心，是连接商业、技术和政府领域的桥梁。

从 2023 年 6 月 7 日至 9 日，ATxSG 将登台亮相，提供大量同期活动，让与会者建立宝贵的联系，在不断发展的技术领域保持领先地位。该活动是一个无与伦比的平台，来自不同领域的有识之士、专家和爱好者汇聚一堂，探索最新的技术趋势，应对紧迫的挑战，发掘无数机遇。

如何在 ChatGPT 时代打击虚假信息
无处不在的虚假信息问题已成为全球亟待解决的问题，对个人、政府机构和企业都产生了影响。在这个以生成人工智能（AI）等卓越技术的出现为标志的时代，以 ChatGPT 的强大功能为例证，出现了一个至关重要的难题：虽然它在建设性目的方面拥有巨大潜力，但人们对其作为放大欺骗性言论的有力工具的利用仍然心有余悸。

鉴于这一难题，当务之急是探索有效措施，遏制虚假信息在网络领域的扩散。我们如何才能有效地阻止虚假信息的传播？在日益两极分化的世界中，可以采取哪些策略来抵制虚假信息并促进和谐？

在新加坡博览馆举行的 2023 年亚洲科技展第二天的小组讨论中，与会者详细讨论了这一问题。在题为 "如何在 ChatGPT 时代打击虚假信息 "的小组讨论中，包括意法半导体工程公司高级副总裁、网络安全战略技术中心负责人 Vrizlynn Thing 博士，新加坡银行数据分析与治理产品负责人 Kim Hong Mak，新加坡国立大学副教务长、高级总监（人工智能治理）Simon Chesterman，以及新加坡国立大学法学副教授、人工智能与数据治理中心副主任 Warren Chik 在内的多位知名高管发表了自己的观点。会议由托尼-布莱尔全球变革研究所合作伙伴及amp; Initiatives 社区经理 Marie Teo 主持。

虚假信息与不实信息重叠
"虚假信息与不实信息重叠，但我们担心的不仅仅是那些不真实的东西。我的意思是，讽刺、戏仿、谣言，我们并不一定在意。因此，我喜欢用一个二乘二的矩阵来思考这个问题。有些事情是真的，有些事情是假的，我们会争论其优劣......但你也要考虑其意图。意图是好还是坏？西蒙解释道。

他表示，社交媒体空间中最大的问题之一就是虚假的好意。这就好比人们在分享信息时并不关心信息的真假，只要信息能起到刺激作用就可以了。西蒙认为，这就是所谓的 "错误信息"（misinformation），基本上就是无辜分享的虚假信息。而虚假信息则是故意分享错误意图。还有第三类，他称之为恶意信息，即怀着不良意图分享看似真实的信息。

生成式人工智能整合虚假信息的速度前所未有
Kim Hong Mak 将人工智能生成时代虚假信息的传播归结为三点：速度、数量和真实性。真正的新闻和人工智能程序生成的新闻越来越难以区分。即使是视频，整个脚本都可以由人工智能程序编写，新闻更是如此。

在这种情况下，对于任何企业来说，信任永远是第一位的。而教育是非常重要的。首先，对于企业内部的员工来说，他们需要能够识别虚假信息，并在发现可疑情况时进行举报。在某种程度上，他们就是我们的一双眼睛。其次是客户，这是任何企业的核心。

归根结底，是产生的结果和最终产品
Vrizlynn Thing 博士解释说："当我们研究检测、预防和缓解管道时，我们必须从更全面的角度来看待它......当创建生成式人工智能模型时，有没有办法让它对事实更加敏感？因为我们都知道人工智能的幻觉问题。在将数据送去训练之前，他们是否会对数据进行检查、验证和清理，从而让人工智能在生成事实信息方面表现得更好？"

另一个可以研究的角度是在所有这些模型生成的数据中嵌入某些模式，这样就更容易检测出这是合成数据，而不是人为生成的数据。

大多数国家都不太可能禁止生成式人工智能
Warren Chik 解释说，新加坡采取的是一种非常便利的方法，我们必须与外界的虚假信息共存。当这些信息产生负面影响时，政府就会介入。当我们谈及技术等问题时，他认为仍然存在一些怀疑。在监管方面，政治和文化差异也起到了一定的作用。

总之，在人们开发和推出这些产品的过程中，需要更加强调道德、透明和诚实。监管过度与监管不足之间也存在着微妙的平衡，因为我们不想限制这些技术的创新性和变革能力。