提升网络安全全球联盟

一个由美国、英国、澳大利亚和另外 15 个国家组成的国家联盟发布了广泛的指导方针，以加强人工智能模型的防篡改能力。

强调 "通过设计确保安全 "的方法。联盟于 11 月 26 日公布了长达 20 页的文件 在快速发展的人工智能产业中，必须将网络安全作为首要关注点。

这一联合行动重申了各国保护关键基础设施的使命，并强化了国际合作伙伴关系在确保数字未来安全方面的重要性。

网络安全和基础设施安全局（CISA）局长珍-伊斯特里（Jen Easterly）说：

"《安全人工智能系统开发指南》的发布标志着我们与世界各国政府共同致力于确保开发和部署设计安全的人工智能能力的一个重要里程碑。在各国和各组织拥抱人工智能的变革力量之际，由 CISA 和 NCSC 领导的这一国际合作彰显了全球致力于促进透明度、问责制和安全实践的决心。在我们共同的技术革命中，国内和国际社会团结一致，共同推进安全设计原则，为全球人工智能系统的安全发展奠定坚实的基础；

实用安全指南

指导方针提出了切实可行的建议，敦促对人工智能模型基础设施进行严格控制，持续监控潜在的篡改行为，并加强人员的网络安全培训。

值得注意的是，指南中没有讨论有争议的人工智能问题，如对图像生成模型的控制、深度伪造以及模型训练中使用的数据收集方法。

该联盟认识到人工智能带来的多方面挑战，以及在不扼杀创新的同时确保安全的重要性。

全球人工智能安全调整

美国国土安全部长 Alejandro Mayorkas 强调网络安全在构建人工智能系统中的作用：

我们正处于人工智能发展的拐点，人工智能很可能是我们这个时代最具影响力的技术。网络安全是建立安全、可靠和值得信赖的人工智能系统的关键；

这些指导方针与近期政府为解决人工智能安全问题所做的努力相一致，包括伦敦人工智能安全峰会和欧盟正在制定的《人工智能法》。

在10 月，美国总统乔-拜登发布行政命令，规定了人工智能安全和安保标准 这引发了业界关于创新潜在影响的讨论。

全球联盟包括加拿大、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、韩国和新加坡。

包括 OpenAI、微软、谷歌、Anthropic 和 Scale AI 在内的领先人工智能公司为这些指导方针的制定做出了积极贡献。

他们强调政府和行业参与者之间的合作，以确保负责任地开发和部署人工智能技术。