如何识别AI造假？这家以色列公司或成新独角兽

来源：元宇宙之心

最近，以色列网络安全初创公司Clarity融资1亿元以打击深度伪造，它是如何赢得各行业顶尖专家的青睐？

人工智能（AI）的发展速度实在是太惊人了！

就在春节期间，Sora模型横空出世，可以生成60秒的高清视频，逼真效果甚至超越了之前的Runway和Pika等视频生成工具。而就在昨晚，谷歌开源了Gemma大模型，能够在笔记本电脑上轻松运行，这意味着普通人现在也可以轻松接触到AI技术。

然而，技术的迅猛更迭也带来了更多人对于“深度伪造”的恐慌。由AI生成的图片和视频足以迷惑肉眼，让人真假难辨。

早在1月底，美国流行歌手“霉霉”就因为AI“不雅照”事件引发了轩然大波，甚至引起了白宫的关注。更有甚者，香港一家跨国公司被AI诈骗团伙伪造其高管参会，损失惨重达1.8亿人民币。

为了缓解个人和企业对AI安全性的担忧，Clarity这家AI网络安全初创公司应运而生。凭借独特的专利算法和前沿技术，Clarity能够精准识别并打击深度造假行为，确保网络信息的真实性和可信度。

Clarity不仅旨在帮助更多人避免成为AI技术滥用的“牺牲品”，更希望为整个行业的健康发展注入新的活力。

01.1分钟项目速览

1.项目名称者：Clarity

2.成立时间：2022年

3.产品简介：

Clarity是一个打击深度造假的AI检测平台。利用专利算法，Clarity能精确检测视频、图像和音频中的篡改，并通过加密水印确保内容真实。各大组织通过集成Clarity的解决方案，能够加强其对数字欺骗的防御能力，从而全面保障内容与资产的安全。

4.创始人团队：

Michael Matias

曾在斯坦福大学学习AI，曾担任以色列“8200情报部队”官员，同时也是70多家深度技术初创企业的天使投资人。

Natalie Fridman

计算机科学博士，巴伊兰大学计算机科学讲师。

Gil Avriel

毕业于哈佛大学肯尼迪学院和乔治敦法学院（第一名），曾在以色列总理办公室国家安全委员会担任高级主管（14 年）。

5.融资情况：

2024年2月，Clarity获得了由Walden Catalyst Ventures和Bessemer Venture Partners领投的1600万美元种子投资。

02.群英荟萃，对深度伪造“重锤出击”

随着AI技术的发展，深度伪造（Deepfakes）也随之而来。

Pew Research最近的一项调查发现，66%的美国人表示，他们“至少有时”会遇到被篡改或者完全虚构的内容；63%的人表示，捏造或更改的图像或视频会导致人们对于时事的“认知混乱”。

美联社和芝加哥大学的另一项民意调查则发现，58%的成年人认为AI工具将导致选举错误信息。据估计，到2026年，90%的在线内容将由AI生成。

由于创建深度伪造所需的工具越来越容易获得、价格越来越便宜，虚假照片、视频现已如洪水般泛滥。在AI生成内容的时代，新闻的真实性和可信度受到了极大的挑战。

快速识别和消灭“病毒”

网络安全初创公司Clarity最近筹集了1600万美元（折合成人民币约为1.15亿元）的风险投资资金来对深度伪造进行反击。这家总部位于纽约的公司使用AI来识别深度伪造创建中常见的模式，使企业能够快速识别和防范虚假内容。

尽管Clarity的核心利用了AI技术，但它在本质上仍是一家网络安全公司。

与其他网络安全供应商一样，Clarity通过应用程序及其接口来提供扫描工具，该工具利用经过训练的多个AI模型来识别视频、图像和音频深层创建技术中的模式。此外，Clarity还提供了一种水印形式，客户可以用它来表明自己的内容是合法的。

谈到和其竞争对手的区别时，Clarity首席执行官Michael Matias表示，差异化因素并不在于表面，而隐藏于产品内核之中，即Clarity对新型深度伪造的快速反应。

Clarity将深度伪造视为能够迅速分叉和复制的“病毒”，因此，它的解决方案也是为了分叉和复制而构建的，以保持适应性和弹性。公司团队还专门建立了相应的基础设施和AI模型，以完美达到这一要求。

众多大佬云集

尽管Clarity目前仅有13名员工，但该公司的创始人团队资历非常雄厚。

• 首席执行官：Michael Matias

Matias曾在以色列“8200情报部队”担任一级干事，并创建了两个获得国防奖的AI团队。随后，Matias在斯坦福大学学习AI，并在Hippo Insurance领导AI团队。他是70多家深度技术初创企业的天使投资人，也曾是多家风险投资公司的投资团队成员。

• 首席技术官：Natalie Fridman

Fridman在AI和研究领域拥有10多年的管理经验，擅长集体智能、深度学习和自主代理建模。Fridman曾任ImageSat International研发高级副总裁（从成立到上市），拥有AI和集体智能博士学位。她发表过超过25篇论文，曾是巴伊兰大学计算机科学的主要讲师，拥有多项AI算法专利。

• 首席战略官兼首席运营官：Gil Avriel

Avriel毕业于哈佛大学肯尼迪学院和乔治敦法学院（第一名），曾在以色列总理办公室国家安全委员会担任高级主管（14 年）。在担任国家安全委员会法律顾问期间，曾就国家安全战略问题为8位国家安全顾问和4位总理提供咨询。

除了卓越的创始人团队，Clarity的顾问委员会成员也都是来自各个行业的顶尖专家，包括斯坦福大学民主学教授Larry Diamond、加拿大前国防部长Irwin Cotler以及前谷歌研究副总裁Alfred Spector等。

03.各行业联手清除造假“迷雾”

AI模型迭代更新，深度伪造技术也在做进一步的提升，这类技术的复杂性已经让人们很难区分真实与捏造的内容。

“我们的数字生活正遭受着猛烈攻击，人们说了他们从未说过的话，做了他们从未做过的事情。”Clarity的联合创始人兼首席执行官Michael Matias在一份声明中表示。

一年前，大多数关于“AI欺诈”的新闻还几乎来自大学研究实验室；一年后，有关AI造假的问题已经充斥在我们的生活中。

短短一年时间里，涌现出了一大波文生图像、视频以及语音克隆模型，例如本月ElevenLabs宣布为Sora推出音效模型，可以自动为视频配音。

这些AI应用在不知不觉中“帮助”恶意行为者利用广泛且免费的工具快速生成深度伪造内容。

“随着语音克隆和其他AI骗局的增加，保护美国人免受冒充者欺诈比以往任何时候都更加重要，”美国联邦贸易委员会(FTC)主席Lina M. Khan在一份声明中提到。

为了弥补这一行业漏洞，检测深度伪造的初创公司正在涌现并不断壮大，并吸引了大量风险投资。

众多深度伪造检测公司，目前正在竞相开发深度伪造检测工具。除了Clarity外，还包括AI浏览器工具Reality Defender以及专注于深度伪造图像和视频的Sentinel公司。

Reality Defender主要提供了一个帮助检测文本、视频和图像深度伪造的平台，可以验证社媒内容是否由AI生成或者以某种方式修改。另外，该公司在去年10月获得由DCVC领投的1500万美元A轮融资，将用于扩大团队并改进其AI内容检测模型。

站在解决AI深度伪造问题的风口上，不少投资人对Clarity持有相当乐观的态度。美国有线电视新闻网（CNN）前战略主管Chris Marlin，作为一名天使投资人的他表示，“生成式AI制作的内容和深度伪造的激增有可能造成更大的选民不信任。”

在1月末，美国总统大选就出现了AI造假问题，有人用AI冒充拜登给选民打电话并且影响了大选的讨论。此外，美国其他州的选举也受到AI伪造的干扰。

Clarity将致力于解决这些问题，正如Chris Marlin强调，“Clarity的技术将清除不确定性的迷雾，为选民和政治领导人提供更好的清晰度。”

斯坦福大学社会学和政治学教授，Larry Diamond也曾表示，“我们很高兴能与Clarity合作，并提供一个可扩展且值得信赖的平台，任何组织都可以用它来验证敏感新闻、防止欺诈并建立一个安全的AI环境。”

04.Clarity身兼长期发展使命

在被AI裹挟的大环境下，如果呼吁监管和立法无法在短期内实现，快速识别和解决深度伪造不失为当前的一个良方。

正如Clarity首席执行官Matias所说，“这是一场快节奏的军备竞赛，任何想要解决深度伪造问题的公司都需要像那些创建和传播深度伪造的公司一样快速行动。”

目前，Clarity正在与以色列政府以及一些大型新闻机构合作，而最新的这笔融资将推动Clarity的扩张计划，使该公司能够加大招聘力度，进一步开发其技术，并在美国市场建立更强大的影响力。