美国与英国和其他18个国家一道，推出了一份美国高级官员所说的第一份详细的国际协议，以确保人工智能(AI)的安全不被流氓行为者滥用。

这份长达20页的文件强调了人工智能系统“设计安全”的必要性，敦促公司以保护客户和更广泛公众的方式开发和部署人工智能。

虽然该协议不具约束力，但它提供了一些一般性建议，如监控人工智能系统的滥用、保护数据不被篡改以及审查软件供应商。

美国网络安全和基础设施安全局局长珍·伊斯特利(Jen Easterly)强调了多个国家认可人工智能系统在设计时应优先考虑安全这一想法的重要性。

她强调说，该指南表明了一种共识，即在设计阶段首先考虑的是安全性，而不仅仅是强调功能、市场速度或成本竞争力。

签署指导方针的18个国家包括德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡。

该框架主要解决与防止黑客劫持人工智能技术有关的问题，并包括只有在彻底的安全测试后才发布模型等建议。然而，它并没有解决有关人工智能的适当使用或为这些模型收集数据的争议性问题。

虽然世界各国政府已经发起了各种举措来推动人工智能的发展，但其中许多举措缺乏可执行性。欧洲在人工智能监管方面一直很积极，立法者正在起草人工智能规则。

去年10月，拜登政府发布了一项行政命令，以减轻人工智能对消费者、工人和少数群体的风险，同时加强国家安全。尽管做出了努力，但分裂的美国国会在制定有效的人工智能监管方面取得的进展有限。