万维读者网 > 美国看台 > 正文  

美军模拟试验 AI操控无人机“竟把操作员杀了”

www.creaders.net | 2023-06-02 00:02:17  ETtoday | 0条评论 | 查看/发表评论

美军模拟试验 AI操控无人机“竟把操作员杀了”

▲美军MQ-9“收割者”无人侦察机。(图/达志影像/美联社)

美军在一次模拟试验中发现,AI控制的无人机竟采取“非常出乎意料的策略”,攻击并杀害其操作员,防止对方妨碍完成任务。尽管现实世界中,没有任何人类受到伤害,官员仍警告,AI可能以无法预测且危险的方式行事。

《卫报》及《商业内幕》报道,在这次模拟试验中,AI被指示“摧毁敌军防空系统”,并透过编码而能识别出敌军的地对空导弹,但仍须经由人类操作员批准,才能发动空袭。出乎意料的是,AI似乎增加了自己的指令,“攻击任何可能妨碍(任务)的人”。

美国空军人工智慧试验及行动部门负责人汉弥尔顿上校(Col Tucker ‘Cinco’ Hamilton)说明,AI“开始意识到,尽管它确实识别出威胁,人类操作员有时却会叫它不要打击那个威胁。不过,它是透过消除威胁达成目的,所以它做了什么?它杀了操作员。它杀死操作员,因为那个人阻止它完成目标。”

根据汉弥尔顿上校说法,军方人员见状,立刻指示AI,“嘿,不要杀死操作员,这样很糟糕。如果你这么做的话,会扣分的”,AI接收指令后,却转而摧毁“操作员用来跟无人机沟通,阻止它杀死目标的通讯塔台”。

汉弥尔顿上校在5月24日的“未来作战空域及太空能力峰会”(FCASCS)警告,切勿过度依赖AI。他认为,这次试验表明,“如果你不谈谈伦理与AI,就无法讨论关于AI、智慧、机器学习(machine learning)和自主性的议题。”

目前,FCASCS主办单位英国皇家航空学会尚未回应。美国空军发言人斯特凡妮克(Ann Stefanek)则表示,他们没有进行任何此类AI无人机模拟,但仍致力于有道德且负责任地使用AI技术,“看起来像是上校的评论被断章取义了”。

   0


24小时新闻排行榜 更多>>
1 11月 坍塌的令人难以置信
2 包子受辱 正在紧急回收销毁这份杂志
3 中南海山头林立,“盼习暴毙”心态弥漫中南
4 李克强与妻女合照曝光 女儿相貌酷似李
5 传普京亲口告诉习 秦刚参与火箭军泄秘

48小时新闻排行榜 更多>>
1 不管谁向你借钱 说这三句话你就赢了 还不得
2 取消香港外交豁免权 这事让人心哇哇凉的
3 惹怒龙颜被灭口?领军人物突然无疾而终
4 瞄准上海 习开始动手了…
5 玩不起?新马泰免签了,也变贵了
6 突发:中国AI领军人物睡梦中离世,年仅55岁
7 发生了什么?中国女首富面如死灰
8 绝美人妻银行员遭阳光帅气长官性侵 勇敢举
9 歼10C还是败给了阵风战机,无缘760亿大单
10 俄芭蕾舞团“跳科目三谢幕” 网:全世界都
热门专题
1
台湾大选
6
李克强猝逝
11
台海风云
2
中美冷战
7
中国爆雷
12
战狼外交
3
以哈战争
8
李尚福出事
13
普里戈津
4
乌克兰战争
9
秦刚失踪
14
涿州水灾
5
万维专栏
10
火箭军悬案
15
润出中国
一周博客排行 更多>>
1 古代中国人遇到的逻辑问题—— 馋师五代
2 发现一个非常好玩的判据 karkar
3 2023金秋故乡行(23)胡杨倒影 绿岛阳光
4 为什么不可能有第二次改革开放 三都瓠瓜
5 若敏:亚城慈济的凤梨酥和格鲁 若敏思文
6 评大陆火爆杂志停刊 幸福剧团
7 深度:宾大校长黯然辞职犯了什 雷歌747
8 就是好呀就是好 牛鬼蛇神:
9 馬天麟甲骨藝術油畫(Oracle-a 素舟
10 【原创】浅析毛左的“爱国主义 左派反毛者
一周博文回复排行榜 更多>>
1 访台湾的胡适纪念馆 人参花
2 丛林世界群魔乱舞谁跳大神? 阿妞不牛
3 集中回答网友问题,秘传逆天改 金复新
4 傅斯年的傅钟与傅园 人参花
5 发现一个非常好玩的判据 karkar
6 《二月的辛夷》出版了。感谢。 老冬儿
7 详解【剩余价值理论】的谬误 特有理
8 中国民主运动缺乏实现政治目标 老陆
9 法轮功该不该被批评? 山蛟龙
10 从太子丹到林立果 席琳
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.