科企高层及专家大联署！AI将灭绝人类 立刻管控

多名人工智能（AI）企业高层、当中包括OpenAI行政总裁奥特曼（Sam Altman）5月30日与专家及学者发联署信，就人工智能导致人类灭亡的风险表达忧虑，他们敦促各国将人工智能所带来的风险与疫情全球大流行及核战看齐。

路透社及天空新闻报道，除了奥特曼，其他参与联署的超过350人包括DeepMind、Antjropic的人工智能公司行政总裁、微软（Microsoft）及Google高层、两名被称为“AI教父”的欣顿（Geoffrey Hinton）和本吉奥（Yoshua Bengio），以及来自哈佛及清华等大学的学者。

他们指出，减低人工智能带来的灭绝风险，应与疫情大流行及核战等其他社会风险一视同仁。该中心表示，希望可以为此引起讨论，并批评Facebook的母公司Meta没有参与联署。

Tesla行政总统马斯克（Elon Musk）及一批人工智能专家和业界高层曾在4月率先就它的潜在风险表态，而欣顿日前更认为，人工智能对人类的威胁，可能比气候变化高。奥特曼原本曾批评欧盟的立法监管人工智能计划过严，一度扬言撤出欧洲，但惹来外界的口诛笔伐，他其后改变主场，并会在6月1日与欧盟委员会主席冯德莱恩（Ursula von der Leyen）会面，预计人工智能会成为讨论话题之一。

专家：AI可能威胁人类存亡 应获大流行与核战同等对待

OpenAI与Google Deepmind负责人在内的专家们警告指出，人工智慧（AI）可能导致人类的灭绝。

BBC报道，数十位AI科学家与其他知名人士在AI安全中心（CAIS）网页上刊登的一分声明签名。该声明指出，“缓解AI带来的灭绝危险应该跟大流行与核战等其他社会性规模危险一起成为全球优先事项”。报道称，这段简洁的声明旨在克服“可能难以表达对部分先进AI最严重风险的担忧”此一障碍，并且开启讨论。

在声名下方署名的学者与公众人士包括早先对超智能AI（super-intelligent AI）带来风险发出警告的辛顿（Geoffrey Hinton）博士、蒙特娄大学电脑科学教授班吉欧（Yoshua Bengio）、Google Deepmind执行长哈萨比斯（Demis Hassabis）、ChatGPT研发商OpenAI执行长奥特曼（Sam Altman）跟AI新创企业Anthropic执行长阿莫迪（Dario Amodei）。

、OpenAI与Google Deepmind负责人在内的专家们警告指出，AI可能导致人类的灭绝，应该跟大流行与核战等其他社会性规模危险一起成为全球优先事项。(路透)

辛顿、班吉欧与纽约大学教授杨立昆（Yann LeCun）因为在深度学习领域的开创性研究，并因此共同于2018年赢得表彰电脑科学领域杰出贡献的图灵奖，让外界经常称3人为“AI教父”。但不同于辛顿与班吉欧，也在Meta工作的杨立昆认为，这些世界末日级警告是过虑了。

许多其他专家同样认为，AI消灭人类的恐惧不现实，并且将注意力从已经成了问题的系统内偏见等议题分散。普林斯顿大学电脑科学教授纳拉亚南（Arvind Narayanan）此前告诉过BBC，类似科幻的灾难情景不实际，“目前的AI远远没有足够的能力让这些风险成形，因而将注意力自AI的短期危害转移离开”。