美商务部重磅报告：支持开放AI模型促进创新，但需监控潜在风险

①美国商务部发布了一份报告，表达了对“开放式”生成式人工智能模型的支持；②NTIA呼吁政府制定一项持续的计划，收集开放模型的风险和益处的证据，评估这些证据并根据这些评估采取行动，包括在必要时对模型的可用性施加某些限制。

财联社7月30日讯（编辑 黄君芝）当地时间周二（30日），美国商务部发布了一份报告，表达了对“开放式”生成式人工智能模型（“Open-weight” GenAI models）的支持，比如Meta的Llama3.1，但同时建议政府开发“新功能”来监控这些模型的潜在风险。

这份报告由美国商务部国家电信和信息管理局（NTIA）撰写。报告指出，开放模型将使小公司、研究人员、非营利组织和个人开发者更容易获取生成式AI（GenAI）的资源。报告建议，出于这些原因，政府不应对开放模型的访问设置限制，至少在调查和评估这些限制是否会对市场造成伤害之前。

这种观点与美国联邦贸易委员会（FTC）主席莉娜·汗（Lina Khan）最近的言论相呼应。她认为，开放模型可以让更多的小公司将自己的想法推向市场，从而促进良性竞争。

“开放式模型在促进竞争方面具有巨大的潜力…开放模型可以解放初创公司，他们可以不受封闭的开发人员和云服务看门人的想法束缚。”她说。

美国助理商务部长、国家电信和信息局局长艾伦·戴维森（Alan Davidson）在一份声明中写道：“最大、最强大的人工智能系统的开放性，将会影响这些革命性工具的竞争、创新和风险。”

“NTIA的报告认识到开放人工智能系统的重要性，并呼吁对最大AI模型的广泛可用性进行更积极的风险监测。政府在支持人工智能发展方面可以发挥关键作用，同时建立理解和应对新风险的能力。”

监控风险

该报告出炉之际，拜登政府正在考虑关于“开放式模型”的使用和安全的指导意见。今年2月，美国商务部就这种做法的风险征求公众意见。但也有批评人士警告称，开放模型也可能放大AI模型被滥用的风险，可能会让美国对手的公司利用这项技术。

在上述报告中，NTIA呼吁政府制定一项持续的计划，收集开放模型的风险和益处的证据，评估这些证据并根据这些评估采取行动，包括在必要时对模型的可用性施加某些限制。

具体而言，该报告建议政府研究各种人工智能模型的安全性，支持风险缓解措施（risk mitigations）的研究，并制定“特定风险”指标的阈值，以表明可能需要改变政策。

美国商务部长吉娜·雷蒙多（Gina Raimondo）也指出，相关步骤将与拜登总统关于人工智能的行政命令保持一致，他呼吁政府机构和公司围绕人工智能的创建、部署和使用制定新的标准。

雷蒙多在一份新闻稿中表示：“拜登政府正在尽一切努力，最大限度地发挥人工智能的潜力，同时将其风险降到最低。今天的报告提供了一个负责任的人工智能创新和由美国领导的路线图，拥抱开放，并建议美国政府如何准备和适应未来的潜在挑战。”