拜登总统发布人工智能行政命令

文章重点

拜登行政命令要求AI公司分享红队测试结果，提升AI代码的安全性和可靠性。各联邦机构将参与AI的安全监管与发展。行政命令强调创新和标准化，以保护消费者权益和促进AI专业人才的培养。

在周一，拜登总统发布了一项雄心勃勃的关于人工智能的行政命令EO，旨在要求AI公司分享其红队测试结果，建立发现工具并修复AI代码漏洞的程序，保护消费者免受欺诈，同时培养AI专业人才。

快喵加速器的下载

这一新的行政命令主要是回应公众对人工智能快速发展的担忧及其潜在风险，实际上赋予了几乎所有联邦政府的机构在国家安全地利用AI的努力中扮演角色。

“作为拜登哈里斯政府负责创新的综合战略的一部分，这项EO构建在总统之前采取的措施基础上，包括推动15家领先公司如OpenAI、AWS和Meta自愿承诺以安全、可靠、值得信赖的方式发展AI，”行政命令中提到。

行政命令是由政府的行政部门发布的，通常由总统直接发布。虽然行政命令并不符合法律的定义，因为它不经过国会的立法程序，但行政部门的员工必须遵守其要求，并且像2021年5月的网络安全EO一样，这些EO为公共和私人合作设定了框架。

“该EO非常理性它避免使用诸如‘生存风险’这样的短语，关注具体问题安全与保障、隐私和歧视，”战略与国际研究中心的高级研究员詹姆斯刘易斯表示。“它管理风险的方法是通过增加透明度和使用测试、工具以及标准。该EO还强调制定关键基础设施的标准，并利用AI工具修复软件，从而支持国家网络安全战略中设定的目标。”

以下是今天安全EO的一些亮点：

亮点内容描述红队测试国家标准与技术研究所NIST被要求制定严格的标准，以确保公共发布前进行广泛的红队测试。国土安全部将把这些标准应用于关键基础设施部门，并建立AI安全与保障委员会。修复漏洞行政命令呼吁建立一个先进的网络安全程序，以开发AI工具来发现和修复关键软件的漏洞，基于国防高级研究计划局DARPA的持续AI网络挑战。消费者保护商务部被指示制定有关内容认证和水印的指南，以清楚地标识由AI生成的内容。联邦机构将使用这些工具，让美国人容易辨认他们从政府收到的通信是否真实，目的是为私营部门和全球各国政府树立榜样。人才发展行政命令寻求加快AI专业人才的快速招聘，作为由人事管理办公室、美国数字服务、美国数字队和总统创新委员会领导的全政府AI人才倡议的一部分。各机构被要求为所有相关领域的员工提供AI培训。

行业对拜登AI命令的回应

总体而言，安全专家欣赏拜登政府以负责任的方式处理AI问题，并积极征求行业意见。

“拜登总统的行政命令强调了对安全、网络安全和严格测试的坚定承诺，”Bugcrowd的创始人兼首席技术官凯西艾利斯表示。“该指令要求开发者与美国政府共享安全测试结果，确保AI系统在公众发布之前经过充分审查。它还强调了AI在增强网络安全方面的重要性，特别是在识