最近，Adobe、IBM、Nvidia等9家人工智能公司向白宫承诺，它们将开发安全可靠且值得信赖的人工智能，这是拜登政府与人工智能公司达成的第二项此类协议。这些公司加入了此前已与白宫达成安全承诺的Meta、Google和OpenAI等公司的行列。

图源备注:图片由AI生成，图片授权服务商Midjourney

白宫表示，签署协议的公司承诺在商业发布人工智能系统之前进行内部和外部测试，投资保护模型权重的安全措施，并与政府、民间组织和学术界共享信息以管理风险。此外，这些公司还将允许第三方报告系统漏洞、给人工智能生成内容加水印、公开报告人工智能风险、研究社会影响以及开发有助于解决社会问题的人工智能系统。

这些都是自愿承诺，如果公司未能遵守，将不会受到惩罚。不过，它们反映出人工智能公司与政府加强合作，推动人工智能的负责任发展。拜登政府已将人工智能作为重点，它希望在促进创新与确保安全之间找到平衡。为此，政府还发布了人工智能权利法案，并指示国家科学基金会建立国家人工智能研究所。

专家认为，这些自愿承诺有助于形成人工智能行业规范，但监管仍需跟上技术发展的步伐。目前，关于人工智能尤其是生成式人工智能的监管仍在讨论中。业内期待政府能加快步伐，制定明确的政策与法规，确保人工智能技术健康发展，造福社会。

相关标签： IBM Adobe等9家公司加入白宫人工智能安全