亚星加盟代理Www.yaxin338.netWww.yxvip006.28.18.16.com

微软CEO呼吁对高级AI设置“紧急制动”系统

　　中新经纬10月12日电 据彭博社10月11日报道，微软公司首席执行官Satya Nadella表示，应该将强大的人工智能模型视为潜在的内部威胁，并创建一个“紧急制动”系统，以防止模型失控。

　　Nadella认为，那些部署先进人工智能的人不应该仅依赖制造商的保证。

　　9月14日，微软人工智能研究人员发布了一系列指导原则，限制了该公司最先进模型的开发。此前，业界领袖呼吁放慢前沿模型的开发速度，并将重点放在安全性上。

　　Nadella提出的安全建议包括：不要依赖单一人工智能模型做出关键决策；保留人工智能代理行为的防篡改记录；对人工智能系统进行独立审计等。他还呼吁披露重大人工智能故障或安全漏洞，并要求企业分享故障详情，以便其他企业能够加强安全防护措施。(中新经纬APP)