다보스 노트: 인공 지능에 대해 알아야 할 10가지 사항

존 드바도스 글, 크립토슬레이트, 통 덩 편집, 골든 파이낸스

2024년 1월 다보스 포럼의 주제는 인공지능입니다.

주권 국가들은 인공지능 인프라를 선전하고, 정부 간 기구들은 인공지능의 규제에 대해 심의하고, 기업 경영진들은 인공지능의 잠재력에 대해 나팔을 불고, 거대 정치인들은 인공지능의 국가 안보적 의미에 대해 논쟁하고, 주요 도로에서 만나는 거의 모든 사람들이 인공지능에 대해 웅변하고 있습니다.

• 정확한 용어는 "생성형" AI입니다. "생성형"이란 무엇인가요? 이전 AI 혁신의 물결은 데이터 세트에서 패턴을 학습하고 새로운 입력 데이터를 분류할 때 이러한 패턴을 인식할 수 있는 능력을 기반으로 했다면, 이번 혁신의 물결은 대규모 모델(일명 "패턴 컬렉션")의 학습과 이러한 모델을 사용하여 텍스트, 비디오, 오디오 및 기타 콘텐츠를 창의적으로 생성할 수 있는 능력을 기반으로 합니다.

• 제너레이티브 AI는 환상이 아닙니다. 이전에 학습된 대규모 모델에 콘텐츠 생성을 요청할 때, 학습 스키마가 부분적으로만 형성된 경우에는 모델이 '빈칸을 채울' 수밖에 없기 때문에 우리가 착각하는 것처럼 보일 수 있습니다.

• 이미 경험하신 분들도 계시겠지만, 생성된 결과물이 반드시 반복 가능한 것은 아닙니다. 왜 그럴까요? 부분적으로 학습된 패턴에서 새로운 콘텐츠를 생성하는 것은 어느 정도의 무작위성을 포함하며 본질적으로 확률적 활동이기 때문에, 생성형 AI의 출력은 결정론적이지 않다는 특이한 방식입니다.

• 콘텐츠의 비결정적 생성은 사실 제너레이티브 AI 애플리케이션의 핵심 가치 제안의 토대를 마련합니다. 창의성이 필요한 사용 사례에서 가장 적합하며, 창의성이 필요하지 않거나 요구되지 않는 시나리오는 제너레이티브 AI에 적합하지 않을 수 있습니다. 이를 리트머스 시험지로 삼으세요.

• 작은 창의성은 매우 높은 수준의 정확도를 제공하며, 소프트웨어 개발에서 개발자가 사용할 코드를 생성하기 위해 제너레이티브 AI를 사용하는 것이 좋은 예입니다. 대규모의 창의성은 생성형 AI 모델이 매우 큰 격차를 메워야 하므로 연구 논문을 작성하도록 요청할 때 잘못된 인용을 보게 되는 경향이 있습니다.

• 일반적으로 제너레이티브 AI를 델파이의 오라클에 비유합니다. 오라클은 모호하게 공식화되어 있으며, 마찬가지로 제너레이티브 AI의 결과물도 반드시 검증할 수 있는 것은 아닙니다. 제너레이티브 AI에 대한 질문; 트랜잭션 작업을 제너레이티브 AI에 위임하지 마세요. 사실 이 비유는 제너레이티브 AI를 넘어 모든 AI에 적용됩니다.

• 역설적이게도 제너레이티브 AI 모델은 일반적으로 예술적 창의성과는 관련이 없지만 과학과 공학에서 매우 중요한 역할을 할 수 있습니다. 여기서 핵심은 제너레이티브 AI 모델을 하나 이상의 외부 검증자와 짝을 이루어 모델의 출력을 필터링하고, 결합된 시스템이 원하는 결과를 생성할 때까지 후속 창의성 사이클에서 모델이 검증된 출력을 새로운 프롬프트의 입력으로 사용하도록 하는 것입니다.

• 직장에서 제너레이티브 AI가 널리 사용되면 제너레이티브 AI를 사용하여 창의력과 생산성을 기하급수적으로 높이는 사람과 제너레이티브 AI에 자신의 사고 과정을 포기하고 점점 더 소외되어 불가피하게 안식년을 갖는 사람 사이의 현대판 대분열이 일어날 것입니다.

• 소위 공공 모델이라고 불리는 대부분의 모델은 오염되어 있습니다. 퍼블릭 인터넷에서 훈련된 모든 모델은 다크 웹 등을 포함한 네트워크 외부 콘텐츠에 대해 훈련되었습니다. 이는 첫째, 모델이 불법 콘텐츠에 대해 학습되었을 수 있고 둘째, 모델이 트로이 목마 콘텐츠에 침투했을 수 있다는 심각한 함의를 내포하고 있습니다.

• 제너레이티브 AI의 가드레일 개념에는 치명적인 결함이 있습니다. 앞서 언급했듯이, 모델이 오염되었을 때 소위 가드레일을 우회하도록 창의적으로 동기를 부여하는 방법은 거의 항상 존재합니다. 우리는 더 나은 방법, 더 안전한 방법, 생성형 AI에 대한 대중의 신뢰를 이끌어낼 수 있는 방법이 필요합니다.

제너레이티브 AI의 사용과 남용을 목격하면서 우리는 내면을 들여다보고 AI는 도구라는 점을 상기해야 합니다.