AI 위조를 식별하는 방법은? 새로운 유니콘이 될 수 있는 이스라엘 기업

출처: 하트 오브 더 메타버스

최근 1억 달러의 투자를 유치한 이스라엘의 사이버 보안 스타트업 Clarity는 어떻게 다양한 업계의 최고 전문가들을 사로잡을 수 있었을까요?

인공지능(AI)이 얼마나 빠르게 진화하고 있는지 놀랍습니다!

중국 춘절 기간에 갑자기 등장한 소라 모델은 60초짜리 HD 동영상을 생성했는데, 런웨이나 피카와 같은 기존 동영상 생성 도구를 능가하는 사실감을 보여줬습니다. 그리고 어젯밤에는 노트북에서 쉽게 실행할 수 있는 젬마 빅 모델을 오픈소스화하여 일반인들도 쉽게 AI 기술을 이용할 수 있게 되었습니다.

그러나 기술의 급격한 변화로 인해 '딥페이크'를 두려워하는 사람들도 많아졌습니다. AI가 생성한 사진과 동영상은 육안으로는 무엇이 진짜인지 가짜인지 구분하기 어려울 정도로 혼란스럽기 때문입니다.

지난 1월 말에는 미국 팝스타 '마일듀'가 AI의 '음란 사진'으로 파문을 일으켜 백악관의 관심까지 끌었습니다. 또한 홍콩의 한 다국적 기업은 경영진이 AI 사기에 속아 1억 8천만 위안의 손실을 입었습니다.

AI 보안에 대한 개인과 기업의 우려를 덜어주기 위해 AI 사이버 보안 스타트업인 클래리티가 탄생했습니다. 클래러티는 독자적인 특허 알고리즘과 첨단 기술을 통해 심층적인 위조 행위를 정확하게 식별하고 대응할 수 있어 온라인 정보의 진위 여부와 신뢰성을 보장할 수 있다.

클래러티는 더 많은 사람들이 AI 기술 악용의 '피해자'가 되지 않도록 돕는 것을 목표로 할 뿐만 아니라 업계 전체의 건전한 발전에 새로운 활력을 불어넣고자 합니다.

01.1분 프로젝트 간략 소개

1. 프로젝트 이름: Clarity

2. 설립 예정일: 2022

3. 제품 설명:

Clarity는 심층 위조와 싸우는 AI 탐지 플랫폼입니다. 클래러티는 특허 받은 알고리즘을 사용하여 비디오, 이미지, 오디오의 변조를 정확하게 감지하고 암호화된 워터마크를 통해 콘텐츠의 진위 여부를 확인합니다. 조직은 클래리티의 솔루션을 통합함으로써 디지털 스푸핑에 대한 방어를 강화하여 콘텐츠와 자산을 완벽하게 보호할 수 있습니다.

4. 설립자 팀:

Michael Matias

스탠포드 대학에서 AI를 전공하고 이스라엘의 '8200 정보단' 장교로 근무했으며 70개 이상의 딥테크 스타트업에 엔젤 투자자로 참여하고 있습니다. 70개 이상의 딥테크 스타트업에 엔젤 투자자로 활동하고 있습니다.

나탈리 프리드먼

컴퓨터 공학 박사, 바-일란 대학교 컴퓨터 공학 강사.

길 아브리엘

하버드 케네디 스쿨과 조지타운 로스쿨을 졸업(1위)하고 이스라엘 총리실 국가안보위원회에서 고위 임원으로 재직(14년)했습니다.

5. 자금 조달:

2024년 2월, 클래리티는 월든 카탈리스트 벤처스와 베세머 벤처 파트너스가 주도하는 1,600만 달러의 시드 투자를 받았습니다.

02. 딥페이크에 '열광하는' 사람들

인공지능 기술과 함께 딥페이크가 등장했습니다.

최근 퓨 리서치 조사에 따르면 미국인의 66%는 조작되거나 완전히 허구인 콘텐츠를 '적어도 가끔' 접한다고 답했으며, 63%는 조작되거나 변조된 이미지나 동영상이 시사 문제에 대한 '인지 부조화'를 일으킨다고 답했습니다. 63%는 조작되거나 변조된 이미지 또는 동영상이 시사 이슈에 대한 '혼란'을 야기한다고 답했습니다.

AP 통신과 시카고 대학교의 또 다른 여론조사에 따르면 성인의 58%는 AI 도구가 선거에 잘못된 정보를 제공할 것이라고 생각하는 것으로 나타났습니다. 2026년에는 온라인 콘텐츠의 90%가 AI에 의해 생성될 것으로 예상됩니다.

딥페이크 제작에 필요한 도구가 더 쉽게 구할 수 있고 저렴해지면서 가짜 사진과 동영상이 범람하고 있습니다. AI가 생성하는 콘텐츠의 시대에 뉴스의 진위와 신뢰성은 큰 도전을 받고 있습니다.

'바이러스'를 빠르게 식별하고 제거하는 사이버 보안 스타트업 클래리티는 최근 1,600만 달러(한화 약 1,150억 원)의 투자를 유치했습니다. 벤처 캐피탈 펀딩을 유치했습니다. 뉴욕에 본사를 둔 이 회사는 AI를 사용하여 딥페이크 제작의 일반적인 패턴을 식별함으로써 조직이 가짜 콘텐츠를 신속하게 식별하고 방지할 수 있도록 지원합니다.

클래리티는 핵심에 AI 기술을 활용하지만, 여전히 본질적으로는 사이버 보안 회사입니다.

다른 사이버 보안 공급업체와 마찬가지로 클래리티는 비디오, 이미지 및 오디오 심층 생성 기술의 패턴을 인식하도록 훈련된 여러 AI 모델을 사용하는 앱과 인터페이스를 통해 스캐닝 도구를 제공합니다. 또한 클래러티는 고객이 콘텐츠가 합법적인 것임을 표시하는 데 사용할 수 있는 워터마킹 기능을 제공합니다.

경쟁사와의 차이점에 대해 클래리티의 CEO인 마이클 마티아스(Michael Matias는 차별화 요소는 겉으로 드러나는 것이 아니라 제품의 핵심, 즉 새로운 유형의 딥 위조에 대한 클래러티의 신속한 대응에 숨겨져 있다고 말했습니다.

클래러티는 딥 위조를 빠르게 포크하고 복제할 수 있는 '바이러스'로 보기 때문에 솔루션은 적응력과 복원력을 유지하기 위해 포크와 복제가 가능하도록 구축되었습니다. 또한 이 회사의 팀은 이러한 요구 사항을 완벽하게 충족하기 위해 인프라와 AI 모델을 구축했습니다.

많은 유명 인사

현재 클래러티의 직원 수는 13명에 불과하지만, 창립 팀은 높은 명성을 자랑합니다.

• CEO: Michael Matias

마티아스는 이스라엘의 "8200 정보단"에서 일등 장교로 복무했습니다

AI 모델은 반복적으로 업데이트되고 있으며, 위조 기술이 더욱 정교해지면서 진짜와 위조된 콘텐츠를 구별하기 어려워지고 있다. 콘텐츠.

"우리의 디지털 생활은 사람들이 한 번도 말한 적 없는 말을 하고 한 번도 해본 적 없는 행동을 하는 등 치열한 공격을 받고 있습니다." 클래러티의 공동 창립자이자 CEO인 마이클 마티아스는 성명에서 이렇게 말했습니다.

1년 전만 해도 'AI 사기'에 관한 뉴스는 대부분 대학 연구실에서 나온 것이었지만, 1년이 지난 지금은 AI 위조 문제가 우리 생활 곳곳에서 일어나고 있습니다.

이달에 ElevenLabs가 동영상을 자동으로 더빙할 수 있는 소리 모델을 출시한다고 발표하는 등 불과 1년 만에 이미지, 동영상, 음성 복제 모델이 쏟아져 나오고 있습니다.

이러한 AI 앱은 악의적인 공격자들이 다양한 무료 도구를 사용하여 정교한 가짜 콘텐츠를 빠르게 생성하는 데 자신도 모르게 '도움'을 주고 있습니다.

"음성 복제와 기타 AI 사기가 증가하고 있는 가운데, 사기꾼으로부터 미국인을 보호하는 것은 미국인을 사기꾼으로부터 보호하는 것이 그 어느 때보다 중요합니다."라고 연방거래위원회(FTC)의 리나 M. 칸 위원장은 성명에서 언급했습니다.

이 같은 업계의 허점을 메우기 위해 심층 위조 탐지 스타트업이 등장하여 성장하고 있으며 상당한 벤처 캐피탈을 유치하고 있습니다.

수많은 심층 위조 탐지 회사들이 심층 위조 탐지 툴을 개발하기 위해 경쟁하고 있습니다. Clarity 외에도 AI 브라우저 도구인 Reality Defender, 이미지와 동영상 위변조에 중점을 둔 Sentinel 등이 있습니다.

Reality Defender는 소셜 미디어 콘텐츠가 AI에 의해 생성되었거나 어떤 방식으로 수정되었는지 여부를 검증하는 텍스트, 비디오 및 이미지의 딥페이크(deep-fake)를 탐지하는 플랫폼을 제공하는 데 중점을 두고 있습니다. 또한, 지난 10월에는 DCVC가 주도하는 시리즈 A 투자에서 1,500만 달러를 유치하여 팀을 확장하고 AI 콘텐츠 탐지 모델을 개선하는 데 사용할 예정입니다.

심층적인 AI 위조 문제 해결의 정점에 서 있는 지금, 많은 투자자들은 상당히 낙관적인 전망을 내놓고 있습니다. 엔젤 투자자인 크리스 말린 전 CNN 전략 책임자는 "AI로 제작된 콘텐츠와 딥페이크의 확산은 유권자의 불신을 키울 가능성이 있다"고 말했습니다.

지난 1월 말 미국 대통령 선거에서 조 바이든을 사칭한 누군가가 AI를 이용해 유권자에게 전화를 걸어 선거 토론에 영향을 미치면서 AI 위조 문제가 불거졌습니다. 또한 미국의 다른 주에서도 AI 위조로 인해 선거에 차질이 빚어졌습니다.

클래러티는 이러한 문제를 해결하기 위해 노력할 것이며, 크리스 말린은 "클래러티의 기술은 불확실성의 안개를 걷어내고 유권자와 정치 지도자들에게 더 나은 명확성을 제공할 것"이라고 강조했습니다.

스탠퍼드대 사회학 및 정치학 교수인 래리 다이아몬드도 다음과 같이 말했습니다. "클래리티와 파트너십을 맺고 모든 조직이 민감한 뉴스를 검증하고 사기를 방지하며 안전한 AI 환경을 구축하는 데 사용할 수 있는 확장 가능하고 신뢰할 수 있는 플랫폼을 제공하게 되어 기쁘게 생각합니다."

04. 클래러티는 장기적인 개발 임무를 수행하고 있습니다

AI가 인질로 잡혀 있는 환경에서 규제와 입법에 대한 요구가 단기간에 이루어질 수 없다면 심층 위조를 신속하게 식별하고 해결하는 것이 현재로서는 나쁜 방법이 아닙니다.

클래러티의 CEO인 마티아스는 "이제는 빠르게 진행되는 군비 경쟁이며, 딥페이크에 대응하고자 하는 모든 기업은 딥페이크 제작 및 유포자만큼 빠르게 움직여야 합니다."라고 말합니다.

클래러티는 현재 이스라엘 정부 및 여러 주요 뉴스 기관과 협력하고 있으며, 이번 투자 유치를 통해 고용을 늘리고 기술을 더욱 발전시키며 미국 시장에서 더욱 강력한 입지를 구축할 수 있을 것으로 기대하고 있습니다.