像监管核武器一样监管AI,OpenAI高层发文探讨「超级智能」监管

 

今天我们聊一聊最近互联网有什么事:

来源 | 机器之心  ID | almosthuman2014前段时间,一向衣着休闲的 OpenAI 首席执行官 Sam Altman 以西装革履的形式出现在了公众面前,出席一个主题为「AI 监管:人工智能规则(Oversight of AI: Rules for Artificial Intelligence)」的

听证会。和他一起作证的还有长期批评人工智能的 Gary Marcus 以及 IBM 首席隐私和信任官 Christina Montgomery。

这次听证会是一系列听证会中的第一次,国会议员们希望更多地了解人工智能的潜在利弊,并最终为其「制定规则」,避免重蹈「监管社交媒体为时已晚」的覆辙听证会上,Altman 基本上同意议员们的观点,即有必要对他的公司以及谷歌和微软等公司正在开发的日益强大的人工智能技术进行监管。

不过,在对话早期阶段,他们和立法者都不能说,这种监管应该是什么样子如今,听证会已经过去一周,OpenAI 高层又以书面的形式阐述了他们对监管的看法在一篇题为「Governance of superintelligence」的博客中,Altman 等人写道,「现在是一个开始思考超级智能(superintelligence)监管的良好时机 —— 未来的 AI 系统将比 AGI 都要强大」。

Altman 等人认为,未来十年内,AI 系统有望超过专家水平,在大多数领域展现出与当今最大企业相当的生产能力然而,超级智能技术带来的潜在利益和风险将比过去任何其他技术更加巨大为了实现更加繁荣的未来,我们必须管理好超级智能的风险,并确保其与社会的顺利融合。