AI偽造品を見分けるには？このイスラエル企業が新たなユニコーンになるかもしれない

出典：Heart of the Metaverse

深刻な偽造に対抗するために最近1億ドルを調達したイスラエルのサイバーセキュリティ・スタートアップClarityは、どのようにしてさまざまな業界のトップエキスパートを獲得したのだろうか？

人工知能（AI）の進化の速さには驚かされる！

ちょうど旧正月に、Soraモデルがどこからともなく現れ、RunwayやPikaのような以前の動画生成ツールをも凌駕するリアルさで、60秒のHD動画を生成した。そしてつい昨晩、グーグルはラップトップで簡単に実行できるGemmaビッグモデルをオープンソース化し、つまり、普通の人々がAI技術に簡単にアクセスできるようになったということだ。

しかし、技術の急速な変化は、「ディープフェイク」を恐れる人を増やすことにもなった。AIによって生成された写真や動画は、肉眼では非常に紛らわしく、何が本物で何が偽物かを見分けるのは難しい。

1月下旬には、アメリカのポップスター "Mildew "がAIの「わいせつな写真」をめぐって騒動を巻き起こし、ホワイトハウスの注目さえ集めた。さらに、香港の多国籍企業は、幹部がAI詐欺に騙され、1億8000万元を失った。

AIのセキュリティに関する個人や企業の懸念を解消するため、AIサイバーセキュリティの新興企業クラリティが誕生した。特許を取得した独自のアルゴリズムと最先端技術により、Clarityは綿密な偽造を正確に識別して対処し、オンライン情報の真正性と信頼性を確保することができます。

Clarityは、より多くの人々がAI技術の悪用による「被害者」にならないようにすることを目指すだけでなく、業界全体の健全な発展に新たな活力を注入したいと考えています。

01.1-minute quick look at the project

1. プロジェクト名：Clarity

2. 設立日：2022年

3.製品の説明：

クラリティは、深い偽造と戦うAI検出プラットフォームです。特許取得済みのアルゴリズムを使用して、Clarityはビデオ、画像、音声の改ざんを正確に検出し、暗号化された透かしによってコンテンツが本物であることを保証します。Clarityのソリューションを統合することで、組織はデジタルなりすましに対する防御を強化し、コンテンツと資産を完全に保護することができます。

4 創業者チーム:

マイケル・マティアス

スタンフォード大学でAIを学び、イスラエルの「8200 Intelligence Corps」で将校を務め、70以上のディープテック・スタートアップのエンジェル投資家です。

ナタリーはスタンフォード大学でAIを学び、イスラエルで「8200諜報部隊」の将校を務めた。

ナタリー・フリドマン（Natalie Fridman）

コンピュータサイエンス博士、バルイラン大学コンピュータサイエンス講師。

ギル・アヴリエル

ハーバード大学ケネディスクール、ジョージタウン大学ロースクール卒業（1位）、イスラエル首相府国家安全保障会議幹部（14年）。

5.資金調達:

2024年2月、クラリティはウォルデン・カタリスト・ベンチャーズとベッセマー・ベンチャー・パートナーズが主導する1600万ドルのシード投資を受けた。

02.ディープフェイクに「打ち込む」人々の集団

AI技術にはディープフェイクがつきものです。

最近のピュー・リサーチの調査によると、アメリカ人の66％が「少なくともときどき」改ざんされたコンテンツや完全に架空のコンテンツに遭遇すると答え、63％が捏造または改ざんされた画像や動画が時事問題についての「認知的不協和」を引き起こすと答えている。また63％が、捏造・改ざんされた画像や動画が、時事問題についての「混乱」を招いたと答えている。

AP通信とシカゴ大学による別の世論調査では、成人の58％がAIツールが選挙での誤報につながると考えていることがわかった。2026年までには、オンラインコンテンツの90％がAIによって生成されると推定されている。

深いフェイクを作成するのに必要なツールが、より簡単に安価に入手できるようになったため、フェイクの写真や動画が氾濫している。写真や動画が氾濫している。AIが生成するコンテンツの時代には、ニュースの信憑性と信頼性が大きく問われます。

「ウイルス」の迅速な特定と排除

サイバーセキュリティの新興企業クラリティ（Clarity）は最近、1600万ドル（約1億1500万ドルに相当）を調達しました。このような状況下で、クラリティは、「AIを活用することで、偽造を防ぐことができる」と述べています。

クラリティ（Clarity）はニューヨークを拠点とし、AIを使用してディープフェイクの作成における一般的なパターンを特定し、組織が偽コンテンツを迅速に特定して防止できるようにします。

クラリティはその中核でAI技術を活用していますが、それでも本質的にはサイバーセキュリティ企業です。

他のサイバーセキュリティベンダーと同様、クラリティはスキャンツールをアプリとそのインターフェースを通じて提供しており、動画、画像、音声のディープクリエーション技術のパターンを認識するよう訓練された複数のAIモデルを使用しています。さらに、クラリティは、顧客がコンテンツが合法的であることを示すために使用できる電子透かしの形式を提供しています。

競合他社との違いについて、クラリティCEOのマイケル・マティアス氏は次のように述べている。

競合他社との違いについて、クラリティCEOのマイケル・マティアス（Michael Matias）氏は、差別化要因は表面上ではなく、製品の核心部分に隠されていると述べています。

クラリティは、ディープ偽造を素早くフォークして複製できる「ウイルス」と見なしており、そのため同社のソリューションは、適応性と回復力を維持するために、フォークして複製できるように構築されています。同社のチームは、この要件を完璧に満たすインフラとAIモデルも構築しています。

大物も多数

クラリティの従業員は現在わずか13人ですが、同社の創業チームは高い信頼を得ています。

• CEO: マイケル・マティアス

マティアス氏は、イスラエルの「第8200情報部隊」で一等将校として勤務していました

。副官として、2つのAIチームを創設し、国防賞を受賞しました。その後、マティアスはスタンフォード大学でAIを学び、Hippo InsuranceのAIチームを率いた。彼は70以上のディープテック・スタートアップのエンジェル投資家であり、いくつかのベンチャーキャピタルで投資チームの一員を務めている。

• CTO: Natalie Fridman

Fridman はAIと研究において10年以上の管理経験を持ち、集合知を専門としている、フリドマンはイメージサット・インターナショナルの研究開発担当副社長（創業から株式公開まで）を務め、AIと集合知の博士号を取得しています。25以上の論文を発表し、バルイラン大学でコンピューターサイエンスの主要講師を務め、AIアルゴリズムに関する複数の特許を取得しています。

• 最高戦略責任者兼COO：ギル・アヴリエル

ハーバード大学ケネディスクールおよびジョージタウン大学ロースクールを卒業（第1位）し、イスラエル首相府国家安全保障会議の上級幹部（14年間）を務めた。国家安全保障会議の法律顧問として在任中、国家安全保障戦略問題について、8人の国家安全保障顧問と4人の首相に助言しました。

クラリティの諮問委員会は、卓越した創業チームに加え、スタンフォード大学民主主義教授のラリー・ダイヤモンド氏、元カナダ国防大臣のアーウィン・コトラー氏、元グーグル研究担当副社長のアルフレッド・スペクター氏など、幅広い業界の一流専門家で構成されています。

03.業界は力を合わせて偽造の「霧」を晴らす

AIモデルは繰り返し更新され、綿密な偽造技術はさらに強化されています。コンテンツを区別することが難しくなっています。

「私たちのデジタルライフは激しい攻撃にさらされており、人々は言ったこともないことを言い、やったこともないことをやっています」。

クラリティの共同設立者でCEOのマイケル・マティアスは声明の中でこう述べている。

1年前、「AI詐欺」に関するニュースのほとんどは大学の研究室から発信されたものだったが、1年後、AI偽造の問題は私たちの生活のいたるところで起こっている。

わずか1年の間に、今月ElevenLabsが発表した、ビデオを自動的に吹き替えられるSoraのサウンドモデルのように、リテラシーのある画像、ビデオ、音声のクローンモデルが次々と登場しています。

これらのAIアプリは、悪意のある行為者が幅広い無料ツールを使って、深く偽ったコンテンツを素早く生成するのを、知らず知らずのうちに「手助け」しているのです。

「ボイスクローンやその他のAI詐欺が増加している今、米国人を詐欺まがいの行為から守ることは、より重要になっています。米連邦取引委員会（FTC）のリナ・M・カーン委員長は声明で次のように述べています。

この業界の抜け穴をふさぐために、深層偽造を検知する新興企業が台頭し、成長しており、多額のベンチャーキャピタルを集めています。

現在、数多くのディープ偽造検出企業が、ディープ偽造検出ツールの開発にしのぎを削っています。クラリティのほかにも、AIブラウザーツールのリアリティ・ディフェンダー（Reality Defender）、深く偽造された画像や動画に特化したセンチネル（Sentinel）などがあります。

Reality Defenderは、テキスト、動画、画像のディープフェイクの検出を支援するプラットフォームの提供に注力しており、ソーシャルメディアコンテンツがAIによって生成されたものか、何らかの方法で改変されたものかを検証する。さらに、同社は昨年10月、DCVCが主導するシリーズAで1500万ドルの資金提供を受け、チームの拡大とAIコンテンツ検出モデルの改善に充てられる。

AIによる徹底的な偽造問題の解決に向け、多くの投資家はかなり楽観的な見通しを立てている。かなり楽観的な見通しを持っている。エンジェル投資家であるCNNの元戦略責任者、クリス・マーリン氏は、"生成的なAIが作り出すコンテンツや深いフェイクの拡散は、より大きな有権者の不信感を生み出す可能性がある"と述べています。

AIの偽造問題は、1月下旬の米大統領選で、ジョー・バイデンを装った人物がAIを使って有権者に電話をかけ、選挙討論に影響を与えたことで浮上した。また、米国の他の州でもAI偽造によって選挙が妨害されている。

クラリティはこれらの問題への対処に取り組み、クリス・マーリン氏が強調したように、"クラリティのテクノロジーは不確実性の霧を晴らし、有権者と政治指導者により明確な情報を提供する"。

スタンフォード大学のラリー・ダイヤモンド教授（社会学・政治学）も次のように述べています。"クラリティと提携し、どのような組織でも機密性の高いニュースの検証、不正行為の防止、安全なAI環境の構築に利用できる拡張性のある信頼できるプラットフォームを提供できることをうれしく思います。"

04.クラリティは長期的な開発使命を担っている

AIを人質に取られつつある環境において、規制や法整備を求める声が短期的に実現できないのであれば、深い偽造を素早く特定し解決することは、現在のところ悪くないレシピです。

クラリティのマティアス最高経営責任者（CEO）は、「速いペースの軍拡競争であり、ディープフェイクに取り組もうとする企業は、ディープフェイクを生み出し、広めている企業と同じくらい速く動く必要がある」と述べています。

クラリティは現在、イスラエル政府や数多くの大手報道機関と協力しており、今回の資金調達によってクラリティの拡大計画が後押しされ、採用活動を強化し、技術をさらに発展させ、米国市場でより強力なプレゼンスを確立することができるようになります。