周二(5月30日),包括OpenAI首席执行官山姆‧奥特曼(Sam Altman)在内的一群科技行业领袖和科学家,警告人工智能带来的风险,并将其潜在影响与核战争进行比较。
该警告只有一句话。
“降低人工智能灭绝人类的风险,应该与其它社会规模的风险(例如流行病和核战争),一起成为全球优先事项。”他们在旧金山非营利组织——人工智能安全中心网站上,发布的一份声明中说。
该声明仍在邀请签署者。
目前,该声明已得到350多名从事人工智能研究的高管、研究人员和工程师的签署,包括OpenAI首席执行官奥特曼、谷歌DeepMind首席执行官戴米斯‧哈萨比斯(Demis Hassabis)以及Anthropic首席执行官达里奥‧阿莫迪(Dario Amodei)。
杰弗里‧辛顿(Geoffrey Hinton)和约书亚‧本吉奥(Yoshua Bengio)通常被认为是现代人工智能的“教父”,也签署了声明。
人工智能安全中心的声明承认,人们对人工智能的潜在影响进行了激烈的讨论,尤其是自去年11月推出ChatGPT以来。
“人工智能专家、记者、政策制定者和公众,越来越多地讨论人工智能带来的广泛的重要和紧迫风险。”声明说,“即便如此,也很难表达对一些先进人工智能最严重风险的担忧。下面的简洁声明旨在克服这一障碍,并展开讨论。”
该倡议还旨在强调,“越来越多的专家和公众人物,也在认真对待一些先进人工智能最严重的风险。”
该声明是在一些技术专家和科学家,最近提出的其它倡议之后发表的,他们对人工智能的快速发展表示担忧。
早在3月,超过1,000名人工智能领导者和专家,呼吁暂停ChatGPT的开发。
(新唐人:https://www.epochtimes.com/gb/23/5/31/n14007041.htm)