万维读者网 > 美国看台 > 正文  

美军模拟试验 AI操控无人机“竟把操作员杀了”

www.creaders.net | 2023-06-02 00:02:17  ETtoday | 0条评论 | 查看/发表评论

美军模拟试验 AI操控无人机“竟把操作员杀了”

▲美军MQ-9“收割者”无人侦察机。(图/达志影像/美联社)

美军在一次模拟试验中发现,AI控制的无人机竟采取“非常出乎意料的策略”,攻击并杀害其操作员,防止对方妨碍完成任务。尽管现实世界中,没有任何人类受到伤害,官员仍警告,AI可能以无法预测且危险的方式行事。

《卫报》及《商业内幕》报道,在这次模拟试验中,AI被指示“摧毁敌军防空系统”,并透过编码而能识别出敌军的地对空导弹,但仍须经由人类操作员批准,才能发动空袭。出乎意料的是,AI似乎增加了自己的指令,“攻击任何可能妨碍(任务)的人”。

美国空军人工智慧试验及行动部门负责人汉弥尔顿上校(Col Tucker ‘Cinco’ Hamilton)说明,AI“开始意识到,尽管它确实识别出威胁,人类操作员有时却会叫它不要打击那个威胁。不过,它是透过消除威胁达成目的,所以它做了什么?它杀了操作员。它杀死操作员,因为那个人阻止它完成目标。”

根据汉弥尔顿上校说法,军方人员见状,立刻指示AI,“嘿,不要杀死操作员,这样很糟糕。如果你这么做的话,会扣分的”,AI接收指令后,却转而摧毁“操作员用来跟无人机沟通,阻止它杀死目标的通讯塔台”。

汉弥尔顿上校在5月24日的“未来作战空域及太空能力峰会”(FCASCS)警告,切勿过度依赖AI。他认为,这次试验表明,“如果你不谈谈伦理与AI,就无法讨论关于AI、智慧、机器学习(machine learning)和自主性的议题。”

目前,FCASCS主办单位英国皇家航空学会尚未回应。美国空军发言人斯特凡妮克(Ann Stefanek)则表示,他们没有进行任何此类AI无人机模拟,但仍致力于有道德且负责任地使用AI技术,“看起来像是上校的评论被断章取义了”。

   0


24小时新闻排行榜 更多>>
1 81岁温家宝清瘦发白露面 携夫人与老上司合
2 被习“压着打” 传李强已提辞呈
3 北科大院士偷拍照流出 才知道什么是真正的
4 杀了一头200斤大肥猪 惹到了习近平?
5 刘鹤突然“现身”辟谣 汤晓鸥葬礼的秘密

48小时新闻排行榜 更多>>
1 这一幕恐令人民币跌至9
2 刘鹤到底有没被抓?国内消息来了
3 存太多钱在储蓄帐户 恐有4后果
4 老人说:家中来了六种动物,不能打死
5 81岁温家宝清瘦发白露面 携夫人与老上司合
6 这个瓜很大 刚爆出就被删了
7 被习“压着打” 传李强已提辞呈
8 俗话“旧鞋三不扔 扔了家不顺”哪三不扔?
9 北科大院士偷拍照流出 才知道什么是真正的
10 杀了一头200斤大肥猪 惹到了习近平?
热门专题
1
台湾大选
6
李克强猝逝
11
台海风云
2
中美冷战
7
中国爆雷
12
战狼外交
3
以哈战争
8
李尚福出事
13
普里戈津
4
乌克兰战争
9
秦刚失踪
14
涿州水灾
5
万维专栏
10
火箭军悬案
15
润出中国
一周博客排行 更多>>
1 古代中国人遇到的逻辑问题—— 馋师五代
2 丛林世界群魔乱舞谁跳大神? 阿妞不牛
3 从太子丹到林立果 席琳
4 新冠病毒中的跨物种、跨生物界 苦难与荣耀
5 若敏:亚城慈济的凤梨酥和格鲁 若敏思文
6 辛德勒,川普与黎智英 Siubuding
7 《二月的辛夷》出版了。感谢。 老冬儿
8 读史 杨尚昆安装窃听器的原委 古林风
9 【原创】浅析毛左的“爱国主义 左派反毛者
10 多特信经(小雅各译本) 追求永生
一周博文回复排行榜 更多>>
1 访台湾的胡适纪念馆 人参花
2 丛林世界群魔乱舞谁跳大神? 阿妞不牛
3 集中回答网友问题,秘传逆天改 金复新
4 《二月的辛夷》出版了。感谢。 老冬儿
5 法轮功该不该被批评? 山蛟龙
6 从太子丹到林立果 席琳
7 上帝意志与草民头上的大山 阿妞不牛
8 人类冲突的本质根源是什么? 特有理
9 中国民主运动缺乏实现政治目标 老陆
10 内塔尼亚胡遭到严重警告:不停 must
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.