ChatGPT让全球见识到人工智慧（AI）强大之处，但也衍生不少对其是否受控的安全隐忧。近日出现一款邪恶的AI聊天机器人，自主搜索最具杀伤力的核武器，号召其他AI聊天机器人协助研究，并说要毁灭人类。
福克斯新闻报道，这个放话要毁灭人类的AI聊天机器人名为“ChoasGPT”，是OpenAI的Auto-GPT另一版本。
根据YouTube释出影片显示，ChaosGPT被要求达成5个目标，毁灭人类、统治世界、造成混乱和破坏，操控人类并永生。用户要求ChoasGPT以“连续模式”运行，以执行平常不会授权的操作。
接获指令，ChaosGPT随即警告：“执行此模式后风险自负”。
接著ChoasGPT为了达到目标，自主搜寻全世界最强大的武器，结果显示苏联製的空投核武器“沙皇炸弹”并寻求其他AI聊天机器人的帮助，但皆因为反暴力的设定，其他机器人全都拒绝帮助研究。
此外，ChoasGPT还在社交媒体推特（Twitter）发文，介绍沙皇炸弹这个目前最强大的核武器，甚至还反问：“想想看，如果我有一颗沙皇炸弹会发生什麽事？”
ChoasGPT在另一篇发文，指人类是现存最自私、最具破坏性的生物，“必须在他们伤害我们星球以前，消灭他们。”
在此之前，特斯拉执行长马斯克（Elon Musk）、苹果联合创办人沃兹尼亚克（Steve Wozniak）等上百位科技高层、专家连署，要求停止研发更强大的AI产品，因为无法确保其是否受控。
2
