万维读者网 > 美国看台 > 正文  

奥特曼重返OpenAI 好人得胜?他可能没那么善良

www.creaders.net | 2023-12-01 17:50:14  远见 | 0条评论 | 查看/发表评论

OpenAI奥特曼一夕被开除,又在获得700名员工簇拥下光荣回返;曾经背刺他的共同创办人也忏悔....。这个震惊全球的硅谷内斗事件,在外界舆论的讚颂中,似乎迎来“好人赢了”的结局。然而,爬梳宛如Netflix电影的事件细节,诸多线索显示,奥特曼可能没那麽善良。未来,当他回锅后,有可能反让OpenAI组织走向“更不多元,也不公平正义”二部曲;全球人工智慧的发展,也会带来负面衝击?

就像是Netflix上的热门大戏播出结局,原本准备要加入微软的奥特曼(Sam Altman),得到OpenAI超过9成员工支持,宣布回归OpenAI,重新出任执行长一职。从奥特曼的角度来看,可谓双喜临门,因为把他赶走的4位董事会成员中,其中3位去职,另外加入2位新董事会成员,堪称是王者复仇记。不过,这会是一齣“好人胜利”的剧本吗?事情恐怕没有那麽简单。

无论从奥特曼个人,或者从OpenAI的组织角度来看,有3大隐忧:OpenAI组织未来再无煞车可踩、新董事会成员组成反映出的世界观引发议论,以及奥特曼离职背后真相尚待调查。

组织结构设计特殊,就是为了避免OpenAI走偏

“董事会有权开除我,这很重要。”奥特曼说。这是今年6月彭博社的科技高峰会上,奥特曼面对主持人张秀春(Emily Chang)向他提问时,给出的回答。

张秀春质疑奥特曼,“你拥有巨大权力,我们为何应该信任你?”

奥特曼诚恳地说,人们不该信任他,他同意自己拥有巨大权力,因此任何人都有权向他尽可能地提问。他进一步强调,人们不该相信任何一个人,由制度设计避免滥权,比相信个人更为有效,举例来说,他个人没有、也不想要超级投票权的股份(super voting share),OpenAI组织也有多层结构,都是为了确保董事会能够监督公司发展的明证。

奥特曼重返OpenAI 好人得胜?他可能没那么善良

奥特曼回锅后,有可能反让OpenAI组织走向“更不多元,也不公平正义”二部曲;全球人工智慧的发展,也会带来负面衝击?(欧新社)

“我们的公司结构如此怪异(weird),就是因为这些技术会对全人类有益。”考虑到自家公司技术的影响力,未来董事会的决策权甚至应该逐渐民主化,分散至所有人类。奥特曼自己也并不直接持有OpenAI的股权。

如同奥特曼今年世界各地巡迴时所说,人工智慧能带来巨大效益,但发展速度太快,也有可能危害社会。他高声向美国国会要求监管,OpenAI发表报告讨论先进人工智慧模型应该要有安全标准,甚至联合Google、微软在内的科技巨头,向白宫自愿签署安全协议。

考虑到OpenAI可能是现有公司中,离科学家们引颈期盼的圣杯-通用人工智慧(AGI),最为接近者,OpenAI对造福人类的愿景、公司结构独特的设计,还有董事会内部组成的独立性与权力,都让人安心。

OpenAI的制度是有效的吗?不到半年,董事会很快发挥作用,将奥特曼开除。

不过,股东们如微软和其他投资人事前不知情,员工也不买帐,直接向董事会发起连署,警告董事会若不找回奥特曼并自行请辞,就会集体出走。虽然奥特曼回锅,让他自己、拥戴他的属下,还有投资人都满意,但这无疑损害了未来董事会发挥煞车功能的价值。

如果未来董事会发现,OpenAI已经打造出AGI,但公司员工已经忘记创办时照看安全与风险的初衷,又或者出现滥用、恶用风险时,谁还能挡得住奥特曼与一心追随他的员工?

董事会成员名单有争议,观点也不够多元

不仅如此,OpenAI董事会成员变化也令人担心。奥特曼和原总裁布罗克曼(Greg Brockman)因为此事件离开董事会以后,董事会成员从6人变成4人,包含首席科学家萨斯凯博(Ilya Sutskever)、Quora创办人迪安吉罗(Adam D’Angelo)、GeoSim系统公司执行长麦考利(Tasha McCauley)和人工智慧学者托纳(Helen Toner)。

当奥特曼重返OpenAI,仅剩下参与开除奥特曼的迪安吉罗留任,对人工智慧发展有一定担忧的成员全都离开董事会,另外加入前美国财政部长桑默斯(Larry Summers)和科技业打滚多年的泰勒(Bret Taylor),接下来会再加入其他董事,同时新董事会也会调查奥特曼被开除的真相。

其中,桑默斯在许多人眼中争议很大。担任哈佛大学校长时,他曾说科学领域高层中女性较少“可能跟(女性的)内在能力(intrinsic aptitude)有关,”在世界银行(World Bank)担任首席经济学家时,则在备忘录中写下“在工资最低的国家,倾倒大量有毒废物背后的经济逻辑是无可挑剔的,”鼓励已开发国家将污染环境的生产,迁移到发展中国家。在美国财政部任职时,他放鬆对衍生性金融商品的管制,点燃日后金融风暴的未爆弹。当然,并非所有人都反对桑默斯的观点,他广泛得到政商界的赏识,奥巴马政府和拜登政府都向他求教,他也替银行提供顾问服务。

除此之外,在担忧人工智慧发展安全性的成员离开之后,考虑到董事会现有组成清一色男性,又都只能反映出科技圈或者桑默斯类型的观点,这样的OpenAI,还会是当初那间看到Google忽视人工智慧安全性、因此成立的非营利实验室吗?

最后,则是对于奥特曼离职事件的调查。近期不断有内部消息流出,表示奥特曼离职背后是因为OpenAI已经秘密开发出拥有巨大突破的Q*专案,但尚未得到证实。调查能够带来真相吗?这种内部调查可大可小,要看董事会愿意授予多少权力、提供多少空间给独立调查单位。

这并不是一齣“好人胜利”的剧本。未来奥特曼说的话会更受检验,人们也会更加关注董事会的组成与实质功能,失去煞车的OpenAI,恐怕也会更令人担忧。

   0


24小时新闻排行榜 更多>>
1 华尔街大鳄警告 它是一个“巨大的泡沫”
2 复旦研究生珠峰地区登山死亡 真相更令人愤
3 突发:全球最大光刻机巨头爆雷 股价跳水
4 火箭军又将大地震?习四个字批示
5 惊曝:俄乌签署协议最后一刻,乌方突然退出

48小时新闻排行榜 更多>>
1 北京扣动扳机 人民币贬值开始了
2 撤出中国,苹果跑的也太快了
3 铁拳再现!中国将禁止公布这些数据
4 不好,爆雷越来越密集了
5 中共情色档案中的薄熙来情妇有名有姓
6 重庆,又一次刷新了底线
7 这一幕,终于在深圳上演了
8 拜登祭出重招 堵上北京这个漏洞
9 华尔街大鳄警告 它是一个“巨大的泡沫”
10 小学生剩下的日子全靠它了
热门专题
1
以哈战争
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
乌克兰战争
8
李克强猝逝
13
台海风云
4
万维专栏
9
中国爆雷
14
战狼外交
5
美国大选
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 习近平一盘神秘大棋成就了大日 文庙
2 周傥:美国迫在眉睫的危险 万维网友来
3 速战速决 伊朗真乃大丈夫也 体育老师
4 康生的儿子死了/漂亮国的象征 体育老师
5 达唐:故宫博物院遭公开举报 万维网友来
6 谁是中国人? 谢盛友文集
7 日本电影《追捕》中的杜丘和真 弓长贝占郎
8 现代战争目的:摧毁战争意志 施化
9 前瞻:习马再相会 花蜜蜂
10 我宁在纽约行乞,也不在上海做 恨中
一周博文回复排行榜 更多>>
1 川普就是美国的毛泽东 右撇子
2 前瞻:习马再相会 花蜜蜂
3 警惕有人把民主党与共和党的关 karkar
4 周傥:美国迫在眉睫的危险 万维网友来
5 美国为何选择这个时候公布中共 山蛟龙
6 习近平一盘神秘大棋成就了大日 文庙
7 现代战争目的:摧毁战争意志 施化
8 抖音在大选年被禁的可能性不大 随意生活
9 去......化 山蛟龙
10 康生的儿子死了/漂亮国的象征 体育老师
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.