아시아 테크 엑스 싱가포르(ATxSG)는 기술, 사회, 디지털 경제의 세계가 융합되는 아시아 최고의 기술 이벤트입니다. 싱가포르관광청(STB)의 소중한 지원으로 인포콤 미디어 개발청(IMDA)과 인포마 테크가 주최하는 ATxSG는 비즈니스, 기술, 정부의 영역을 연결하여 싱가포르에서만 펼쳐질 수 있는 흥미로운 토론의 장이 되고 있습니다.
2023년 6월 7일부터 9일까지 ATxSG는 참가자들이 가치 있는 인맥을 형성하고 끊임없이 진화하는 기술 환경에서 앞서 나갈 수 있도록 다양한 동시 개최 이벤트를 제공했습니다. 이 행사는 다양한 분야의 선구자, 전문가, 애호가들이 한자리에 모여 최신 기술 트렌드를 살펴보고, 시급한 과제를 해결하며, 수많은 기회를 창출할 수 있는 독보적인 플랫폼 역할을 합니다.
채팅GPT 시대의 허위 정보에 대처하는 방법
만연한 허위 정보 문제는 개인, 정부 기관, 기업 모두에게 영향을 미치는 시급한 글로벌 관심사로 떠올랐습니다. ChatGPT의 인상적인 기능으로 대표되는 생성형 인공지능(AI)과 같은 놀라운 기술의 출현으로 특징지어지는 이 시대에는 건설적인 목적을 위한 엄청난 잠재력을 지닌 반면, 거짓 이야기를 증폭시키는 강력한 도구로 악용될 수 있다는 중대한 딜레마가 존재합니다.
이러한 난제를 고려할 때, 온라인 영역에서 허위 정보의 확산을 줄이기 위한 효과적인 방안을 모색하는 것이 필수적입니다. 어떻게 하면 허위 정보의 유포를 효과적으로 막을 수 있을까요? 점점 더 양극화되는 세상에서 잘못된 정보에 대응하고 화합을 촉진하기 위해 어떤 전략을 사용할 수 있을까요?
이 주제는 싱가포르 엑스포에서 열린 아시아 테크 2023 둘째 날에 열린 패널 토론에서 심도 있게 논의되었습니다. '채팅GPT 시대의 허위 정보에 대처하는 방법'이라는 주제로 열린 패널 토론에는 ST 엔지니어링의 사이버 보안 전략 기술 센터 책임자이자 수석 부사장인 브리즐린 씽 박사, 싱가포르 은행의 데이터 분석 및 거버넌스 부문 제품 책임자인 김홍막, 싱가포르 국립대학교(NUS)의 부총장 겸 선임 이사(AI 거버넌스)인 사이먼 체스터맨, SMU의 AI 및 데이터 거버넌스 센터 부국장인 워렌 칙 법학 부교수 등 저명한 경영진이 참석하여 의견을 개진했습니다. 이 세션의 사회는 토니 블레어 글로벌 변화 연구소의 파트너십 및 이니셔티브 커뮤니티 매니저인 마리 테오가 맡았습니다.
허위 정보와 진실이 겹치는 경우
"허위 정보는 비진실과 겹치지만, 우리가 걱정하는 것은 사실이 아닌 것만이 아닙니다. 풍자, 패러디, 루머 등 우리가 신경 쓰지 않아도 되는 것들이 있습니다. 그래서 제가 생각하는 방식은 2x2 매트릭스입니다. 어떤 것은 사실이고, 어떤 것은 거짓이며, 우리는 그것에 대한 장점에 대해 토론합니다... 하지만 의도에 대해서도 생각해야 합니다. 의도가 좋은 것인가 아니면 나쁜 것인가? 따라서 참, 거짓, 좋은 의도, 나쁜 의도라는 2×2 매트릭스를 생각하면 됩니다."라고 Simon은 설명합니다.
그는 소셜 미디어 공간에서 가장 큰 문제 중 하나는 선한 의도를 가진 허위 사실이라고 말했습니다. 사람들이 정보를 공유하지만 그 정보가 사실인지 거짓인지에 대해서는 전혀 신경 쓰지 않고 자극적인 정보만 있으면 공유하는 것과 비슷합니다. 사이먼에 따르면 이를 잘못된 정보라고 하는데, 기본적으로 잘못된 정보가 선의 없이 공유되는 것을 말합니다. 그러나 허위 정보는 고의로 잘못된 의도를 가지고 공유하는 것입니다. 사이먼은 세 번째 범주로 악의적인 의도를 가지고 그럴듯하게 진실한 정보를 공유하는 것을 악성 정보라고 불렀습니다.
제너레이티브 AI의 결과로 허위 정보가 통합되는 속도는 전례가 없습니다.
김홍막은 제너레이티브 AI 시대에 허위 정보가 확산되는 원인으로 속도, 양, 진위 여부 등 세 가지를 꼽았습니다. 진짜 뉴스와 AI 프로그램에 의해 생성된 뉴스를 구분하기가 점점 더 어려워지고 있습니다. 동영상의 경우에도 전체 대본이 AI 프로그램에 의해 작성될 수 있으니 뉴스는 더 말할 것도 없습니다.
이 경우 모든 비즈니스에서 가장 중요한 것은 항상 신뢰입니다. 그리고 교육은 매우 중요합니다. 먼저, 조직 내 직원들이 가짜 정보를 인식하고 의심스러운 점이 있으면 신고할 수 있어야 합니다. 어떻게 보면 직원들은 우리의 또 다른 눈입니다. 둘째, 모든 비즈니스의 중심인 고객입니다.
결국, 생성되는 것은 결과물이자 최종 결과물입니다.
브리즐린 씽 박사는 다음과 같이 설명합니다. "탐지 및 예방과 완화 파이프라인을 살펴볼 때는 보다 전체적인 관점에서 바라봐야 합니다... 생성형 AI 모델을 만들 때 사실에 더 민감하게 만들 수 있는 방법은 없을까요? 우리 모두는 이 AI 환각 문제를 알고 있기 때문입니다. AI가 사실에 입각한 정보를 생성하는 데 더 나은 성능을 발휘할 수 있도록 데이터를 학습용으로 보내기 전에 데이터를 확인, 검증, 정리할 수 있을까요?"
또 다른 관점에서 살펴볼 수 있는 것은 이러한 모든 모델에서 생성되는 데이터에 특정 패턴을 삽입하여 사람이 생성한 데이터가 아닌 합성 데이터라는 것을 더 쉽게 감지할 수 있도록 하는 것입니다.
대부분의 국가에서 생성 AI를 금지할 가능성은 매우 낮습니다.
워렌 칙은 싱가포르가 매우 협조적인 접근 방식을 취하고 있으며, 우리는 잘못된 정보와 함께 살아야 한다고 설명했습니다. 이러한 종류의 정보가 부정적인 영향을 미칠 때 정부가 개입할 때입니다. 그는 기술과 같은 분야에 대해 이야기할 때 여전히 회의적인 시각이 존재한다고 느꼈습니다. 규제 측면에서는 정치적, 문화적 차이도 영향을 미칩니다.
전반적으로 이러한 제품을 개발하고 출시하는 방식에서 윤리, 투명성, 정직성을 더욱 강조할 필요가 있습니다. 또한 이러한 기술의 혁신성과 혁신적 기능을 제한하고 싶지 않기 때문에 과잉 규제와 과소 규제 사이의 미묘한 균형이 필요합니다.