万维读者网 > 美国看台 > 正文  

扎克伯格首次回应与马斯克的笼斗:不会发生

www.creaders.net | 2023-09-29 00:26:39  腾讯科技 | 0条评论 | 查看/发表评论

Meta联合创始人兼首席执行官马克·扎克伯格(Mark Zuckerberg)最近接受了美国科技媒体The Verge编辑尼莱·帕特尔(Nilay Patel)的专访,谈到人工智能的下一步发展方向、新虚拟现实头显Quest 3的潜力,以及他与埃隆·马斯克(Elon Musk)之间的持续竞争等话题。

以下为专访全文:

01 与马斯克笼斗不会发生 明年或许会找其他人约架

问:马克,我得说实话。不久前,我还在想,在你和马斯克笼斗之后,我们或许可以在拉斯维加斯做一次赛后专访。

扎克伯格:也许明年吧!但对手可能不再是马斯克,而是某个其他人。我想继续参加比赛,但我需要找到一个认真对待比赛并有竞争力的人。

问:你觉得马斯克真的想找你打一架吗?

扎克伯格:我也不知道,这你得问他!我真的很喜欢这项运动。对我来说,这是一场比赛,也是一项运动。我的意思是说,我喜欢这样的比赛。我和许多人一起训练,我当然想参加更多的比赛,你们会看到的!

问:如果可以的话,你还有其他想要与之对战的科技公司CEO吗?或者你已经彻底放弃了这类比赛?

扎克伯格:我觉得和真正会打架的人对战才会更有趣!

问:那些认真对待比赛的人?

扎克伯格:是的。

问:通过约架来解决科技企业之间的竞争,你认为这现在会成为一种潮流吗?

扎克伯格:不,我不这么认为。我认为这也不是我们社会的发展方向。

问:也许这是最好的结果。

扎克伯格:这可能是最好的结果,但我认为有些渠道用来发泄是好事。我觉得和马斯克提议的那种方式会很有趣。

问:如果他回来跟你说:“我会接受你的条件来战斗,你来选场地。” 你还会和他完成比赛吗?

扎克伯格:我认为这种情况不会发生。

问:这需要公平!我同意你的看法。

扎克伯格:当人们看到某件事时,他们可能会说:“这我也能做到。”但我的意思是,你必须接受训练,这里面有很强的技术性。这很有趣,也很考验智慧。以前我曾经参加过击剑比赛,但那显然那与笼斗不同。在击剑中,你是为了得分而比赛。当你的剑尖准确无误地刺中对方的有效部位时,你就能得分!但在笼斗中,你需要时刻警惕对方的反击。我真的很喜欢思考各种不同的连击和移动方式。但在此之前,你需要加紧学习所有的基础知识。不过,当你达到更高水平时,事情就会变得超级有趣。我喜欢和朋友们一起练习。

问:当你这样做的时候,你的大脑不会关闭吗?你真的觉得它能刺激精神吗?

扎克伯格:是的。

02 早有收购推特之意 分四步走打造Threads

问:去年,当马斯克即将接管推特时,我曾问你是否有什么建议给他。这次,我不会让你给他提建议,但这一年发生了很多变化,包括你们现在推出了Threads。我很想知道,你为什么要推出Threads?你们采取了哪些方法?你是什么时候做出这个决定的,因为事情似乎进展得很快?

扎克伯格:众所周知,我始终认为推特的目标应该是成为一个供十亿人使用的社交应用。有时候看着它,我就会想:“如果是我在运营它,我可以把它扩展到10亿人。”这就是原因。随着时间的推移,我们进行了不同的收购,打造新版推特也是我们考虑进行这些收购的原因之一。

问:你很久以前就想收购推特了,对吧?

扎克伯格:是的,我们进行过谈判,就在杰克(推特创始人杰克·多西(Jack Dorsey))第一次离开的时候。我的意思是,不同的企业家对他们想做的事情有不同的目标,有些人想独立经营他们的公司,这很酷。

有多种不同的结果是件好事。但我想,在马斯克到来之前,推特已经发展了一段时间,而且我认为这款产品的变化速度相当慢,所以它似乎并没有走在最大限度发挥其潜力的轨道上。然后,随着马斯克的加入,我认为这肯定是一个改变局面的机会。他也确实做到了,对吧?

我是说,马斯克绝对是个变革推动者。我认为目前还不清楚事态的发展轨迹,但我确实认为他的做法相当极端。所以,我认为推特在目前的发展轨迹上充分发挥潜力的可能性尚不清楚,但我觉得结果可能不那么乐观,现在的机会似乎比以前更少了。

但我想,只是看着这一切的发生,就已经为我提供了足够的警示,并重新点燃了我的热情,有人应该帮助建立一个更加无处不在的推特。而且,我也看到了它周围的许多东西,很多关于社交媒体的讨论都是围绕信息和实用性展开的,但我认为设计任何产品同样重要的是它给人的感觉。它承载着怎样的情感?你如何摆脱那种感觉?

我认为Instagram给人的感觉通常是比较快乐的,Facebook在某种程度上处于中间位置,因为它有快乐的时刻,但也有些令人感到难过的消息以及类似东西,我认为这些东西往往更具有批判性,可能会让人们看到世界上正在发生的一些负面的事情。我认为推特的情感指数非常强烈,因为其负面影响和批判性都很强。

我想这都是由设计决定的。这并不是说设计师想让人们的感觉糟糕,我认为他们只是想要引导最激烈的辩论,但这创造了某种情感上的负担。我一直在想,你可以创造一种不那么消极或有害的讨论体验,这样做会让很多人更容易接触它。我想很多人都不想使用一款让他们离开后始终感觉不好的应用。

我认为普遍存在的问题是人们想要获得新的信息。我觉得基于文本的应用仍有发展空间,即使世界正在走向越来越丰富的分享和消费形式发展,文本也不会消失。它仍将是一件大事,但我认为人们的感受真的很重要。

所以,这是我们努力开发Threads的重要原因。而且,你知道,随着时间的推移,如果你想让它变得无处不在,显然需要每个人都接受它。但我认为,你如何构建网络并在上面创造文化,最终对它们如何随着时间的推移而扩大规模非常重要。

在Facebook上,我们从打造实名制文化开始,它根植于你大学时代的电子邮件地址。你知道,很长一段时间以来,你的大学电子邮件地址都不属于你,但我认为Facebook在实名制文化方面的努力始终在继续,并将继续成为它的重要组成部分。

所以我认为,我们如何在早期为Threads设定文化,使之成为一个更积极、更友好的讨论场所,将有望成为下一个十年我们扩大规模的决定性因素之一。我们显然还有很多工作要做,但我得说这是一个很好的开始。显然,我们会迎来巨大的峰值。当然,并不是每个最初尝试过它的人都会留下来。无论是月活跃用户还是周活跃用户,我们都还没有分享相关数据。

问:如果你愿意的话,那当然最好。

扎克伯格:不,我不会分享数据,只是我对此感觉很好。

问:有报道说,在这种情况下,用户参与度无法维持下去,但我认为像这样的激增是很自然的。你们为这类产品的用户粘性设定了最初的行业标准,所以我认为你们正在引导类似的度量标准。

扎克伯格:是啊,我们有这样的计划。第一阶段是创造一种能够激发人们快乐的火花,创造值得人们欣赏的东西。然后,从那里开始,你想要得到一些可保留的东西。这样,那些对一件东西有良好体验的人就会回来,并想继续使用它。

这两件事并不总是相同的。有很多事情,人们认为是了不起的,但可能并不总是受欢迎。我认为人们现在看到的ChatGPT就是其中之一。这种程度的人工智能堪称是一个奇迹,但这并不意味着每个人每周都会使用它。

我们首先是创造火花,其次是提高留存率。然后,一旦你有了留存率,就可以开始鼓励更多人加入。但如果人们不会被留住,你为什么要让人们去注册一些东西呢?

第一步是火花,第二步是留存率,第三步则是发展和扩展社区。然后才是第四步,也就是实现盈利。我们花了很多时间来完成所有这些步骤。从某种意义上说,我们现在才刚刚开始将WhatsApp这样的即时通讯体验货币化。

问:的确花了些时间。

扎克伯格:但是每天有20亿人在使用这款产品。我们对它进行了相当大的调整。但我认为,在我们的模式下,这是可行的。

03 Threads缺乏及时性 致力于提高互操作性

问:你们在与推特竞争,但你在尝试用不同的方式。对我来说,作为一个长期的推特上瘾者和一个非常早期的Threads用户,Threads仍然缺乏实时的感觉。这就是我仍然使用推特的目的,即获取新闻。我知道你们当前的努力不一定要强调新闻,这是一个完全不同的话题,但你是如何获得那种类似于推特的感觉,即“这就是现在正在发生的事情?” 因为我认为Threads还没有做到这一点。

扎克伯格:我认为这是我们需要改进的地方,但我的意思是,硬新闻内容并不是唯一的新鲜内容。即使是在新闻中,也有一系列硬性、批判性新闻,以及人们所关注的体育赛事或名人动态。它不像许多硬新闻(尤其是政治讨论)那样尖锐。我认为这是如此的两极化,以至于我认为这些天来读政治新闻很难让人感觉良好,对吧?

但这并不适用于所有情况,总体来说,部分原因在于你如何调整算法来鼓励近时性或高质量。所以,我不确定我们是否已经完全实现了平衡。可能的情况是,在像Threads这样的产品中,人们可能希望看到更多最新的内容,而不是像Instagram或Facebook这样的东西,它更直观。所以,我认为这是我们需要调整和优化的东西。

问:Threads还没有做到这一点,但你最终会把它与ActivityPub挂钩,这是一个去中心化的社交媒体协议。从外行人的角度来看,这有点复杂,但本质上,人们运行着自己的服务器。所以,人们可以经营自己的领地,而不是让一个中心化的公司来运营整个网络。这更像是联邦制。所以,Threads最终会于此挂钩。这是你第一次在去中心化的社交媒体领域做一些真正有意义的事情。

扎克伯格:是啊,我们在从头开始建造它。我一直相信这些东西。

问:真的吗?但你运营着最大的集中式社交媒体平台。

扎克伯格:是的,但我的意思是说,我们刚开始的时候也是从小做起。我曾多次让我们的团队做过这样的思想实验:怎样才能把Facebook全部转移到某种去中心化协议上? 这似乎是不可能发生的,因为Facebook上的功能太多了,太复杂了,你甚至不能支持所有不同的东西,这需要花费很长时间,在这段时间里你还无法创新。

我认为参与其中一项协议是有价值的,但这不是实现价值的唯一途径,所以进行这种大规模转型的机会成本是一件非常很大的事情。但是当你从头开始时,你可以重新设计它。我们想要这样做,因为我认为这是围绕着这种推特竞争环境而演变的有趣的事情之一,围绕着它有一个真正的生态系统,我认为这很有趣。

问:如果随着时间的推移,人们越来越倾向于这些去中心化协议,这对像你们这样的公司来说意味着什么?一个大型的中心化企业在这幅图景中处于什么样的位置?

扎克伯格:我的观点是,不同服务之间的互操作性越多,可以流动的内容越多,所有的服务就会变得越好。我想我有足够的信心,我们可以建立最好的服务,我认为我们将因此受益。通过确保我们可以从任何人创建内容的地方访问所有不同内容,我们将能够建立更高质量的产品。

我知道,并不是每个人都想使用我们提供的所有服务。即使现在有30亿人在使用Facebook,也并非意味着每个人都想使用这种产品。我认为,让人们可以使用另一种产品,但仍然可以在网络上与人互动,这将使产品更有价值。

我认为,你可以通过让人们访问所有内容来提高产品的质量,即使这些内容不是在这个网络上创建的。但我不知道结果会如何,这是一个巨大赌注。

有一种有趣的、违反直觉的事情,我认为人们不喜欢被困在一个系统里。所以,在某种程度上,我实际上认为,如果人们知道他们可以选择离开,他们会对使用我们的产品感觉更好。 在某种程度上,如果人们知道他们可以自由做出决定时,这实际上会让他们对投资某个系统更有信心。也许对于社交网络的第一阶段来说,让人们感觉更多地被锁定在这些系统中是好的,但我认为对于成熟的生态系统来说,我不认为这将是它的发展方向。

我对此感到相当乐观。如果我们能在此基础上构建Threads,那么也许随着时间的推移,随着标准的建立,我们有可能把它推广到我们正在做的更多事情上。我们正在致力于消息传递的互操作,我认为这是一件重要的事情。第一步是在我们不同的消息传递系统之间实现互操作。

问:对,这样它们就可以互相交谈了。

扎克伯格:是的,然后我们的第一个决定是WhatsApp——我们对加密有着非常坚定的承诺。所以,如果我们要实现互操作,我们要么需要对其他内容进行加密,要么对WhatsApp进行解密。但我们不打算解密WhatsApp,所以我们要沿着加密其他一切的道路走下去。幸运的是,我们在这方面取得了很好的进展。

但这基本上只是意味着,完全从头开始重写Messenger和Instagram。因此,你基本上是从所有消息都存储在云中的模型转变为完全颠覆了体系结构,现在所有消息都存储在本地。现在,我们基本上已经到了开始推广的阶段了。我们已经可以在这些应用之间进行加密,我们也可以开始支持更多的互操作。

问:不是Meta拥有的其他服务也可以?

扎克伯格:我的意思是,我们的计划总是从我们所提供的服务开始,然后再推广到其他服务上。

04 开源让Meta从行业创新中受益 帮助降低价格、确保安全

问:我答应过不再提马斯克,但你和他以及参议员查克·舒默(Chuck Schumer)最近在白宫参加了一个大型人工智能峰会,很多时候都是闭门会议。你们俩坐在桌子的两边,我觉得这是个有趣的安排。你从中悟到了什么?美国政府在监管人工智能方面持什么立场?你觉得会发生什么?

扎克伯格:我真的不知道该期待什么样的对话,但这次会议取得了许多实质性进展,我认为我们讨论的领域比我预期的要多得多。你提及到政府的立场,除了主持讨论的参议员舒默之外,这对政府来说真的是一个机会,让他们可以听到来自科技行业和社会人士的意见。

在这次会议中,有管理工会的人,有来自好莱坞的人(代表着创意和知识产权产业),有专注于人工智能安全的研究人员。我认为最有趣的一件事是,参议员们并没有说太多话。在三个小时的活动中,大约有40名参议员坐在那里,他们认真倾听,做着笔记,并没有真正参与讨论,只是在那里学习。我觉得这很有趣。在某种程度上,这很好地反映了我们的制度,以及最终将做出这些立法决定的人的求知欲。

问:你有没有看到一些批评,尽管这些批评不一定是专门针对你的。科技行业目前正担心人工智能监管,并试图安抚人们的担忧,你对此如何看?

扎克伯格:我看到了这种担忧,我自己也有点担心。我的意思是,我认为这里确实存在问题。我认为政府有很多重要的事情要做,既要保护美国公民不受伤害,又要保持美国相对于其他国家的天然竞争优势。

我认为这将是一个巨大的领域,它对所有事情都很重要,不仅仅是在经济方面,还包括国防等。我认为美国在这方面处于领先地位是很重要的,政府需要考虑清楚:我们要如何利用我们在人工智能领域取得的世界领先地位?我们要如何控制这项技术?我们要对它进入其他地方施加哪些限制?

我认为这有重要意义,这里有很多我认为是真实存在的担忧。你知道,我花了很多时间思考的一个话题是开源。我们在Meta做了很多开源工作。当然,并不是我们所做的一切都是开源的,也有很多封闭系统。我在开源这件事上不是狂热分子,但我认为我可能比其他大多数大公司更倾向于开源。

我们相信,开源我们的很多基础设施总体上是积极的,原因如下:一是我们没有云业务,所以我们并不是在出售基础设施的使用权,所以可以免费将其提供给别人。二是,当我们真的开源时,我们通常会从生态系统的创新中受益,当其他人采用这些东西时,会帮助提高质量并降低价格。

问:比如PyTorch ?

扎克伯格:当我谈到降低价格时,我想到了Open Compute这样的东西,我们开放了自己的服务器设计,现在制造这种服务器的工厂可以生产更多的服务器,因为其他公司,如亚马逊等都在订购相同的设计,这为每个人降低了价格,这是好事。PyTorch之所以伟大,是因为它基本上使它成为整个行业的标准,因为人们使用它进行开发,这意味着为它创建了更多的库和模块,这只是让它变得更好。这也有利于我们内部的发展。

所以我认为所有这些都是正确的,并且对推动开源很有效。此外,我认为开源软件通常更安全,因为它经过了更严格的审查。每个软件都有漏洞和缺陷,但能看到它们的人越多,你就越能早确定这些问题,并着眼于修复它们。由于整个行业都采取了一种标准,这些修复程序会在任何地方推广,这对确保行业安全来说是一个很大的优势。

当我想到人工智能的安全性时,我认为其中一个大问题是:如果有一个超级智能被关闭了,有人想出了如何利用它,所有人都会同时受到伤害。然而,在一个开源系统中,如果人们发现问题,就像给Mac或任何东西打补丁那样,整个行业都能迅速反应过来。

所以我认为这总体上是积极的,但是很明显,当你开源东西的时候,我们可以建立保护措施。但同时,你也不能从根本上阻止坏人拿走并使用它。所以就会有这样的争论:“如何实现平衡?你希望开源的模型有多强大?”

我认为这是一场真正的辩论。我有时确实感觉到,有些公司的商业模式基本上是出售他们正在开发的封闭模型的访问权,我确实认为他们必须小心。不过,开源的一个最大好处是它也降低了小公司和很多其他人采用的成本。所以我认为这将是一件需要长期关注的大事。

问:我认为Llama和Llama 2的发布对初创公司来说是一件大事,因为它们可以免费使用。我想知道,你们公司内部是否有过关于“应该采取封闭路线”的讨论,毕竟你们在人工智能研究上花了那么多钱,你们拥有世界上最好的人工智能实验室之一。你拥有巨大的分销渠道,为什么不把这些都留给自己呢?

扎克伯格:你知道,支持封闭路线的最大理由通常不是专利优势。

问:还是竞争优势?

扎克伯格:不,这不是竞争优势,对此有过相当激烈的争论。

问:你肯定受到过劝阻吧?

扎克伯格:的确,但我认为它们应该保持开源。我认为关于风险有些新的争论,我想确保我们已经了解了风险,我们制定了非常严格的程序。我们现在正在训练下一个版本的Llama,关于我们应该如何发布它,我们可能会遇到同样的争论。再说一遍,我倾向于开源,但我认为我们需要做好“红队”的工作,在做出决定之前了解风险。

但是人们反对开放Llama 2的两个主要理由之一是,准备开源的东西需要花费很场时间。我们的主要业务是开发消费产品,我们会在Connect上推出它们。而Llama 2不属于消费产品,它是驱动这些东西的引擎或基础设施。但是有这样一种争论,特别是在我们发布了Llama 1的部分版本之后,这引起了很多骚动,然后人们提供了一大堆反馈,他们想知道我们什么时候会把这些反馈纳入其中。比如他们会问:如果我们发布Llama 2,这会不会分散我们的注意力?毕竟,我们真正的工作是尽我们所能打造最好的消费产品。这是一场辩论,我想我们很快就适应了。然后,围绕着风险和安全会出现更多辩论。

这就像是,你如何衡量Llama造成的伤害?你如何将其与其他事物进行比较?例如,有人在参议院会议上提出了这一点:我们用了Llama 2,我们的工程师在几天内就可以越过防护措施,并问了它一个问题:你知道如何制造炭疽菌吗? Llama 2给出了答案。从表面上看,这听起来很糟糕。这显然是一个问题,你可以绕过防护措施。但我们可以想一想,你也可以在谷歌上搜索如何制造炭疽菌,它会在5秒内出现在搜索结果的第一页,对吗?

问:你对确保AI安全总体感觉良好吗?

扎克伯格:对于Llama 2,我认为我们在这方面做得很好。我记得Llama 2的白皮书,我们在其中基本上概述了所有不同的指标以及我们所做的所有不同的事情,我们在内部和外部都组建了“红队”,我们得到了大量反馈。由于我们知道没有任何东西是完美的,有些坏人会找到一些方法来利用它,所以我们真的知道我们需要在这方面设定相当高的防护标准。所以,我对Llama 2感觉很好,它经过了非常严格的审核过程。

05 明年或推创作者版本AI 将会有上亿种AI

问:你们现在宣布了Meta AI Agent,这是你们专有的。我敢肯定它使用的是Llama技术,但它是封闭模型,你们并没有透露太多关于这个模型及其权重等信息。但这是人们将在应用程序中看到的新智能体。

扎克伯格:是的。在Connect上,我们发布了很多不同的东西。Meta AI和我们发布的其他AI都是基于Llama 2构建的。它和我们开源的其他东西并不完全一样,因为我们把它作为基础,然后我们在其基础上构建消费产品。但是我们也发布了几款不同的产品。

问:我觉得,对我来说,人工智能是近期最重要的事情。因为很多人在关注它,这可能是第一次,很多人都能体验到这样先进的聊天机器人。它是免费的,也是与众不同的。

扎克伯格:我很好奇这些东西是如何被使用的。

问:我用了一段时间,它可以提取网页结果。所以它可以提供最新的消息,这很好。它也不会给我建议如何和女朋友分手。

扎克伯格:它不会!

问:我没有女朋友,我已经结婚了。但我想看看它能或不能回答哪些问题,它似乎相对安全。但你认为人们会用它来做什么?因为它有搜索引擎组件,它可以做很多事情。我的意思是,在你心中,这几乎是一个纯粹的ChatGPT竞争对手吗?

扎克伯格:我认为它有很多不同的用途,人们会想要与周围的人工智能互动。退后一步。我认为,当我看到OpenAI或谷歌的时候,这个行业的很多人的愿景是,将会有一个巨大的超级智能诞生,而这些公司都想成为它。我只是觉得那不是最好的未来。我认为人们对待世界的方式应该是这样的:“没有任何人或公司可以为我们提供一切,没有任何单一应用程序可以帮我们做任何事情。我不认为我们需要的不只是一个人工智能。”

问:从当前的聊天机器人身上,我觉得它们能做的事情似乎太多了,我都不知道该问什么。

扎克伯格:是的,所以我们的观点是,实际上会有很多这样的机器人,人们会和它们谈论不同的事情。我做了一个思想实验来证明这是可行的:假设你是一家小企业,你想要一个人工智能来帮助你与客户沟通,进行销售和支持。你想要非常确信,你的人工智能不会推广竞争对手的产品,对吗? 所以你希望它是专属于你的,希望它与你保持一致,所以你需要一个独立的AI系统,与竞争对手的AI完全不同。

到了这里,你会发现,将会有1亿种人工智能帮助企业销售产品。然后你会得到创作者版本的AI,就像每个创作者都想要专属的人工智能助手那样,可以帮助他们建立自己的社区。人们真的想要与它互动,与创作者互动的需求也会越来越大。

问:毕竟只有一个凯莉·詹娜(Kylie Jenner,美国演员、模特、企业家和社交媒体名人)。

扎克伯格:我认为,这恰恰代表着巨大的需求。人们都想和凯莉互动,而凯莉也想扩展自己的社区,但一天只有那么多时间。为她创造一个类似于智能助手的人工智能,让人们清楚地知道,他们并不是在与真实的凯莉互动,这将是她的人工智能版本。

这将有利于创作者,我认为这对消费者来说也很有趣。不过,这实际上很难,因为我认为要让创作者的AI版本正常工作,可能会有许多品牌安全之类的担忧。事实上,我们现在实际上并没有推出这款产品,我认为这或许是“明年”的事情。如果你是一个创作者,你真的想确保这些AI精确地反映了创作者的个性,不要谈论创作者不想参与的事情,也不要说会给创作者及其代言协议带来问题的事情。

问:我觉得创作者应该参与其中,他们应该能够提出自己的建议。

扎克伯格:是的,但在某些方面,这项技术甚至还不存在,更不用说让创作者的AI版变得训练有素。我的意思是,这不是确定性意义上的代码,对吧? 这就像一个模型,你需要训练它,让它保持在特定的范围内行事。我认为,这方面还有很多技术有待开发。

问:明年会有更大进展?

扎克伯格:是的。那些东西很有趣,我认为商业方面的东西更有用。然后,我认为有很多有趣的消费者用例。比如Meta AI,除了回答问题,你还可以用它来帮助了解Quest 3和我们即将出货的新雷朋眼镜。我们应该马上就能谈到这一点。这将是相当疯狂的,有了Meta AI,你可以整天在眼镜上与之交谈。

所以,我认为Meta AI将是非常强大的。但是我们也会创造出许多其他的新角色,比起让AI像真人一样行事,这是一个更容易开始的问题,因为在这方面没有太多的品牌安全问题。因此,我们正在针对人们的不同兴趣,对不同类型的运动或时尚感兴趣,试验一系列不同的人工智能系统。

问:我试过导游版AI。

扎克伯格:有这种AI,还有能向别人提供建议的系统,它就像一个人生导师。还有些AI更具游戏性,就像史努比狗狗在玩《地下城》,还有一些是基于文本的冒险游戏。你知道,玩基于文本的游戏将会非常有趣。

所以,部分原因是我们想要创造不同体验的多样性,看看什么能引起共鸣,什么是我们想要深入开发的。这是我们建立AI工作室的第一步。这将使任何人都可以建立自己的人工智能,就像你在社交网络上创建自己的用户生成内容(UGC)一样。所以,你应该能够创建自己的AI并发布它。我觉得那会很疯狂。

问:我同意这将会是一场狂野竞赛。只要想到我们作为一个社会将越来越多地与人工智能建立关系,就让我觉得有点不安。以Character.ai为例,它有一个人格库,你可以与之互动,人们真的喜欢某些聊天机器人。你怎么看待这种现象?随着科技的发展,这是不可避免的吗?

扎克伯格:这不是我们的起点,我认为有很多用例的前景比它更光明。比如,你知道,有人可以帮你锻炼,有人可以帮你做饭,更多的实用工具,帮助安排旅行,甚至是代打游戏之类的事情。

我认为这些东西可以帮助你与人交流。我们可以做的一件事是别人很难做到的,那就是你可以把这些放到群聊中。所以我们从Meta AI开始,你可以在任何线程中调用它。就像我可以和你进行一对一的对话,我可以直接问Meta AI一些问题。我也可以在群聊里这么做。所以我认为这将会非常有趣。在这些线程中加入这些有趣的人物,我认为会创造出一种有趣的动态。尤其是在图像生成方面,尽管我们还没有进行过太多讨论。

问:我试过了这个功能。它给人留下了深刻的印象,而且速度很快。

扎克伯格:我认为我们的团队已经取得了惊人的进步,我们的画质十分逼真。

问:对于那些还没用过的人,你只要在聊天机器人中输入你想要的图像,它就会自动生成。

扎克伯格:是的。我认为,它的快速和免费将会帮助改变游戏规则。我的意思是,现在有很多逼真的图像生成器,但很多都需要一分钟以上的响应时间。

问:它们也很难使用或找到。

扎克伯格:不仅如此,你还得付费订阅。所以我认为,如果它是免费的、快速的,并且能够存在于群组聊天线程中,我认为人们只是为了好玩就会创建大量的图片。我真的很好奇它是如何被使用的,但我认为它会非常有趣。

我认为有很多事情你可以使用这些工具来促进联系并创造娱乐,这实际上可能比今天一些更实用的用例更能体现这项技术的能力,不过存在些真实性问题,即所谓的“幻觉”。你知道,我们正试图通过与你提到的搜索引擎合作来解决这个问题。所以你可以输入一个问题,然后实时提问:“谁赢了这个周末的比赛?” 然后它就能进行搜索并给出答案。但幻觉问题还是没有被完全解决。

所以我认为,在某种程度上,这些语言模型最擅长的是生成,这就是“生成式人工智能”这个名字的由来。提出想法,想出一些有趣的事情。但我还不想让它成为我的医生,让它给我诊断,并不得不质疑其是否出现了幻觉。

在我看来,让它适合于以提供有趣的内容和娱乐为主要目标的消费产品,这实际上可能比人们最初想到的一些用例更适合这项技术,比如充当智能助手或者新的搜索引擎等。这在大多数情况下都是可以的,我认为未来几年它会实现这一目标,但我认为这项技术已经可以应用到当今的消费领域。

06 人工智能将与元宇宙结合 真人能与自己化身对话

问:在整个大模型竞赛中,Meta的一个关键优势似乎是,你们拥有大量的用户数据,可能仅次于谷歌。我知道很多数据都是私密的,不可能用于训练聊天机器人。

扎克伯格:我们没有那样做。

问:WhatsApp也加密了,但是公开的东西(Reels、公开的Facebook帖子)似乎很自然就被用于训练大模型了。这是否会影响到Meta AI ?

扎克伯格:就像你说的,我们没有使用人们和朋友的私人聊天记录来训练大模型。

问:但是你们坐拥大量的数据,训练这样的模型会很有趣。

扎克伯格:事实上,我认为我们今天所做的很多事情实际上仍然是非常基本的。它们可能带来很多好处,但我们需要进行实验,看看什么最终是有用的。

但我认为有趣的一点是这些人工智能问题,它们正不断被优化,让人工智能基本上处于我们试图让它变得更好的环境中,这是非常重要的。例如,你有像ChatGPT这样的东西,它们只是在一个抽象的聊天界面中。但是让人工智能在群聊中生活,这实际上是一个完全不同的问题,因为现在你有一个问题要解决:人工智能什么时候应该加入?

为了让人工智能擅长群聊,你需要有人工智能和群聊的经验,尽管谷歌、OpenAI或其他公司可能在其他方面有很多经验,但那种拥有你试图交付产品的实际体验的产品动态,我认为非常重要。

同样,我感到非常兴奋的一件事是:我认为多模态是一种非常重要的互动。为了让事情变得新鲜和有趣,即使是我们使用的应用程序,也会经常发生变化,或添加新的功能。

我认为人们可能会想要与他们互动的人工智能,我认为如果他们也能善变,那将会更令人感到兴奋。所以,我感兴趣的部分是这不仅仅是聊天,尽管聊天将是大多数交互发生的地方。但这些人工智能将在Instagram和Facebook上拥有个人资料,他们将能够发布内容,将能够与人互动,甚至彼此互动。

关于这种相互作用是如何发生的,以及它们是如何随着时间的推移而演变的,有一整套有趣的飞轮。我认为这将是非常引人注目和有趣的,我们正在慢慢开始这方面的工作。我们希望构建它,使其能在整个元宇宙中发挥作用,包括在不久的将来,在元宇宙中体现为化身。

所以当进入虚拟现实,你会有一个人工智能版本的化身,你可以在那里和它们交谈。我认为这将非常有意思。至少,当你不想与其他真人一起玩游戏时,它可以创造出更好的NPC和体验。你可以让人工智能变得更逼真,更吸引人。

但我认为有这样的交叉,你有一个智能助手,或者有人给你讲笑话,逗你笑,逗你开心,然后他们可以出现在你的某些虚拟世界里,以化身的形式出现,但你仍然可以以同样的方式与他们互动,我认为这很酷。

07 智能眼镜有望在五到十年取得突破

问:你认为这些更智能化AI角色的出现,会加速人们对虚拟现实和虚拟现实的兴趣吗?

扎克伯格:我认为所有这些都让它更有吸引力,这对于智能眼镜来说可能比虚拟现实更重要。

问:你需要一些东西,比如视觉控制或语音控制?

扎克伯格:当我在思考智能眼镜的关键功能是什么时,我认为我们的世界将会出现科幻电影中的全息图,而且这只是其中之一。这有点像增强现实技术。但总有一些模糊的概念,认为你会有一个智能助手,可以帮你做一些事情。

我认为像Siri或Alexa这样的东西,潜力非常有限。所以我就想:“在制造增强现实眼镜的过程中,希望人工智能也能进步。” 现在,我们确实做到了。所以现在我认为,对于智能眼镜来说,人工智能可能比全息图和显示器更有吸引力,这就是我们今年推出的新版本雷朋智能眼镜的原因。当我们开始开发这款产品时,所有这些生成式AI还没有出现。

我们开始研发这款产品只是作为对第一代产品的改进,照片、音频以及外形都变得更好。它是最初产品的升级版本,并增加了一些新功能,比如你现在可以直播,这很酷,因为你可以直播你正在观看的内容。

但直到开发产品的过程中,我们才意识到:我们实际上可以把整个生成式人工智能助手放进去,你可以戴上这种时髦的智能眼镜,你可以整天都和人工智能交谈,讨论你遇到的不同问题。

这不是第一个软件版本,但明年年初的某个时候,我们也将拥有这种多模态。所以你可以问人工智能:“我在看的是什么?那是什么植物?我在哪儿?这东西有多贵?”因为智能眼镜中内置了摄像头,所以你可以看到:“啊,原来你正在用佳能相机拍摄,我能到哪里去买一部?” 我觉得那会很有趣。

再说一次,这些都是很新奇的东西。因此,我并不是假装知道关键用例是什么,或者人们将如何使用它们。但智能眼镜对人工智能来说非常强大,因为与手机不同,作为一种外形因素,眼镜可以看到你所看到的,听到你所听到的。

所以,如果你想构建一个人工智能助手,它可以真正访问你作为一个人的所有输入,眼镜可能是你想要的外形方式。我认为智能眼镜的这种全新设备可能会在五到十年的时间内有所突破,甚至可能会在超高质量的全息图出现之前成为现实。

问:人们对雷朋眼镜和Quest的整体兴趣是否与你所认为的一致?

扎克伯格:我们把它们分开来看。Quest 1是第一种独立的产品。它做得很好,但所有的内容都必须专为它而开发。所以当我们开发Quest 2的时候,我们已经完成了所有内容的开发,只需要在某种程度上对它们进行改进即可。

Quest 2大获成功,它的表现非常好,是迄今为止最具代表性的虚拟现实设备。然后我们推出了Quest Pro,它实现了混合现实的飞跃,但其售价高达1500美元。到目前为止,我们所看到的是,至少消费者非常注重成本。我们预计Quest Pro的销量会比Quest 2少得多,事实也证明了这一点。当你第一次以1500美元的价格发布一款产品时,你总是很难准确预测它的销量,但Quest Pro的总体表现还不错。

Quest 3是针对混合现实进行的改进,有点像当初的Quest 1。在Quest 3中,我们实现了混合现实功能,比Quest Pro的质量更高,但价格只有Quest Pro的三分之一,仅为500美元。所以我真的很期待看到它的表现。

08 VR将是全新计算平台 单挑苹果生态系统

问:根据我的演示,你们似乎仍然认为它是一款游戏设备。这样公平吗? Quest 3的主要用例将是“游戏与社交的结合”。

扎克伯格:我认为社交实际上只是第一项功能,这很有趣,因为Quest曾经主要用于打游戏。现在,如果你看看人们花时间最多的体验是什么,会发现是不同的社交虚拟体验,比如Rec Room、VRCha、Horizon和Roblox。尽管Roblox刚刚开始在该平台上增长,但用户花在社交上的时间已经超过了游戏。如果从经济角度来看,情况就会有所不同,因为人们会为游戏支付更多费用。而社交有我之前说过的采用曲线,你首先必须建立一个大的社区,然后你可以进行商业活动,随着时间的推移,你才可以从中获利。

我对虚拟现实的整个构想是:人们最初将其视为一款游戏设备,而我认为这是一个全新的计算平台。计算平台往往有利于三个主要方面:游戏、社交和生产力。我很确定我们能搞定社交方面的功能。如果我们能在生产力方面找到合适的合作伙伴,如果我们能支持游戏生态系统,那么我认为我们就能让它成为一件大事。

总的来说,一切都在按照预期计划进行。我认为这将是一个长期项目,但我认为社交现在已经取代游戏成为人们花费时间最多的东西,这是一种有趣的软件演变。但就像你说的,娱乐、社交和游戏仍然是最主要的东西。我认为,生产力还需要一些时间来提高。

问:我试过了Quest 3。就图像和性能以及你们所投入的所有内容而言,这绝对是一个意义重大的升级。不过,感觉我们离这种媒介成为真正的主流还有一段距离。

扎克伯格:你说的主流是什么意思?

问:我知道你已经达到了游戏机级别的销售水平,所以你可以说你们的头显已经成为主流,但从通用计算平台的角度来看,它还不如PC或类似的东西。

扎克伯格:这可以分成几个部分来说。我认为,为了提高生产力,你可能需要更高分辨率的屏幕。这是会实现的,我们正在等待成本曲线下降。如今,我们已经有超高分辨率的屏幕,但仅设备就需要花费数千美元,这基本上是苹果针对Vision Pro所做的权衡。

问:你试过了吗?

扎克伯格:不,我还没有。

问:你说得对。他们正将我们引向那种超高规格!

扎克伯格:是的,你必须想象在未来五年多的时间里,会有更好的显示屏,它们的成本会下降,我们正沿着这条曲线前进。

今天,当你在制造这样的产品时,你基本上可以选择:如果你采用更好的屏幕,售价就会很贵。但我们正在尝试建立一些东西,并建立一个使用这些设备的社区。我们正在努力突破这一障碍,尽可能提供最好的屏幕,同时让它的价格降至500美元,而不是3500美元。

问:我曾报道过你在苹果推出Vision Pro后对员工发表的一些评论,你似乎并没有被它所吸引,它也没有给你带来多大困扰。我可以想象,如果他们推出一款700美元的头显,我们的对话将会完全不同。但他们的出货量很低,而且可能还需要三到四年的时间才能发布针对大众的低端产品,达到有意义的规模。那么,是不是因为在一段时间内,市场是属于你们的?

扎克伯格:苹果显然在这方面很擅长,所以我不想忽视它们。但因为我们在这方面相对缺少经验,所以我不确定的是,当苹果发布一款设备时,他们是否会做出一些全新的突破,导致我们的努力付诸东流。我以为我们做得很好,所以上述假设不太可能发生,但谁也不能确定,直到他们带着自己的发明出现。

他们做了一些很聪明的事情。但当我们真正更多地使用我们的设备时,我相信我们会学到其他有趣的东西。在大多数情况下,他们只是选择了不同的细分市场。

我认为这对他们来说是有意义的。他们每年卖出1500万到2000万台MacBook。从他们的角度来看,如果他们可以用像Vision Pro这样的产品取代MacBook,那对他们来说就是一笔不错的生意。这将带来数十亿美元的收入,我认为他们很乐意每年卖出2000万或1500万部Vision Pro。

但我们采取的是另一种策略。我们并不是想以高价出售设备,然后通过这些设备大赚一笔。回到我们之前讨论过的曲线,我们想要创造一些很棒的东西,让人们每周、每天都在使用它,然后,随着时间的推移,将它扩展到数亿或数十亿人。

如果你想做到这一点,那么你就必须创新,不仅仅是在设备质量上,还要让人们买得起、用得起。所以我认为我们是在玩不同的游戏,这使得随着时间的推移,他们会在他们专注的领域制造出高质量的设备。也许这只是在很长一段时间内处于不同的领域,但我不确定。我们将拭目以待。

问:从开发者的角度来看,这是否能够帮助你们吸引他们开发基于安卓而非iOS的应用?Meta是否真的倾向于安卓模式,并开始将自己的软件和技术授权给其他OEM厂商?

扎克伯格:我希望随着时间的推移,这是一个更加开放的生态系统。我对这些计算平台如何演变的理论是,将会有一个封闭的集成堆栈和一个更开放的堆栈。到目前为止,每一代计算都是如此。

实际上,我们还不清楚哪一个最终会更成功。我们现在正从移动领域走出来,在这个领域,苹果一直是真正占据主导地位的公司。尽管从技术上讲,安卓手机的数量更多,经济活动也更多,但所有这些活动的重心显然都在iPhone上。

在许多重要的国家,我认为iPhone占据了多数市场份额,而且份额还在不断增长,苹果显然是这个领域的主导公司。但在电脑和PC领域,情况并非如此,所以我们的方法是把重点放在让人们尽可能负担得起的技术上。我们希望成为开放的生态系统,我们希望开放的生态系统获胜。

所以我认为新一代计算平台的发展可能会更像个人电脑,而不是手机,苹果可能会进入高端市场,而我们可能会成为主要的生态系统,最终为数十亿人服务。这就是我们所追求的结果。

09 AR眼镜会成为主流消费产品 就像手机那样普及

问:关于你们在增强现实眼镜方面取得的进展,我的理解是你们将在明年推出第一个内部开发工具包。我不知道你是否会公开发行,如果已经决定了,但进展速度是否如你所愿?似乎苹果已经解决了这个问题,每个人都在处理这方面的技术问题。

扎克伯格:我想我今天没有什么要宣布的。

问:你说增强现实眼镜是2030年前的最后一件大事,为什么这么说?

扎克伯格:它会成为更主流的消费产品。我今天没有什么新东西要宣布,我们内部正在构建一系列版本。

我们同时从两个角度来看这件事。我们从雷朋开始,这就像如果你今天拿着时髦的眼镜,你能把什么最先进的技术塞进去,使它成为一款好产品?然后我们从另一边出来,并称“我们想用全息图创造我们的理想产品。你走进一个房间,那里的全息图和实物一样多。你将以全息图的形式与人互动,以人工智能的形式与人互动,诸如此类。”然后,我们怎样才能把它装进一个像眼镜一样的东西里,而且价格又能让我们负担得起呢?

我很想看看第二代雷朋眼镜的表现如何。首先,我认为接收效果很好。有很多关于留存率较低的报道,我认为我们还需要完善一些内容,比如摄像头和音频。我们没有意识到很多人在跑步的时候会想用它来听播客,毕竟这不是我们设计它的目的,但这的确是个很好的用例。我们会在升级中添加这些功能。

至于迭代的周期,如果你在开发新版Threads或Instagram,周期大概是一个月。硬件方面,大概需要18个月或者两年。但我认为这是下一步,我们将沿着那条曲线往上爬。它现在非常昂贵,所以如果你想接触到消费者群体……

问:你要等成本曲线降下来吗?

扎克伯格:是的。

问:这就是主要的限制因素吗?

扎克伯格:我想是这样的。我们想继续改进它。但你看,你通过尝试组合和整合所有东西来学习。你不可能孤立地进行一百万个研发工作,然后希望它们能结合在一起。我认为,让你构建最终产品的部分原因是,你需要进行几次尝试,练习构建最终产品。我们有好几代人在研究如何构建它。当我看到Reality Labs的总体预算时,我认为眼镜是我们正在做的最昂贵的部分。

问:这就是我发问的原因。因为我觉得人们都在想,“这一切会走向何方?”

扎克伯格:说到底,我对增强现实和虚拟现实的未来都相当乐观。我认为增强现实眼镜将会成为一种像手机一样的东西,你可以戴着它走在世界各地。虚拟现实将会像你的工作站或电视一样,当你想要一个更高的保真度,更多的计算,丰富的体验时,你就需要把它放在上面。但你不会戴着虚拟现实头显走在街上。至少我希望不是这样,那不是我们正在努力的未来。

但我确实认为存在某种偏见,可能是在科技行业,也可能是整个行业,人们认为手机和眼镜中,两者中唯有一款最终会有更大价值。但现在有很多电视,有很多人花很多时间在电脑前工作。所以我认为虚拟现实也会很重要,但毫无疑问,随着时间的推移,更大的市场应该是智能眼镜的。

现在,无论你身在何处,你都将拥有与人互动的沉浸感,无论你身在何处,你都将拥有完美的外形,随着时间的推移,你将拥有所有这些人工智能体验,因为它们将能够看到你所看到的,听到你所听到的。

不过,开发这款设备很有挑战性。把设备变小也很难。从根本上来说,这是一种违反直觉的事情,我认为人类对建造像金字塔这样的大型建筑印象深刻。我认为很多时候,制造一些小东西,比如在细胞水平上治疗疾病,或者把一台超级计算机缩小到可以装进你的眼镜里,可能比制造某些真正的大型物体更伟大,但由于某种原因,它们似乎不那么令人印象深刻。这是非常吸引人的东西。

10 似乎重回19岁创业时代

问:我觉得每次我们聊天,这一年都发生了很多事。你似乎对管理公司很在行。我很好奇这些天是什么在激励着你。因为你有很多事情要做,你要参加笼斗,你有三个孩子要养,你要做慈善,总之有很多事情要做。而且你在日常生活中似乎比以往任何时候都更活跃,至少表面上是这样。我想,你是这个时代最后一位仍然领导着这么大一家公司的创始人。你有过这样的想法吗?你还会想是什么在激励着你吗?还是说这已经成为习惯,更多的是潜意识在发挥作用?

扎克伯格:我不确定你说的那些东西有多新鲜。我的意思是,我的孩子们差不多已经七八岁了。在过去的几年里,格斗是相对较新的东西,但我的身体始终都很强壮。

就公司需要做的事情而言,我们经历了不同的浪潮,我认为这需要一些不同的领导风格。我们经历过一段时间,我们在此期间需要做的很多事情是处理重要的社会问题,我认为这需要一种不同的风格。

然后我们经历了另一段时期,我们遇到了一些相当严峻的挑战,包括应对经济衰退,收入不像我们想象的那样增长迅速以及需要裁员等,这又需要一种不同的领导风格。但现在,我认为我们正重新开始开发真正创新的产品,尤其是在人工智能创新方面。在某种程度上,这正是我最喜欢的公司经营方式。我认为这些东西会随着时间的推移而进化。

问:现在看起来你玩得更嗨了!

扎克伯格:这就是科技行业的伟大之处。每隔一段时间,你就会得到像人工智能这样的突破,它会改变一切。如果你是幕后推手,那可能会带来威胁,但我只是认为这就像事物在变化,当了不起的东西被创造出来时,肯定会很令人感到兴奋。

过去几年,世界变得很奇怪,特别是像疫情这样的事情。对很多人来说,这是一个重新评估他们生活意义的机会。显然,这其中有很多艰难的事情,但你知道,幸运的是,我可以花更多的时间和家人在一起,我们可以花更多的时间徜徉在大自然中,因为我不像以前那样经常去办公室。

这绝对是一段绝佳的反思时期,似乎重新回到了我最初创业的时候,那时我只有19岁。每年,人们都在说:“我们想要联系更多的人,把人们联系起来是件好事。这就是我们在这里要做的。让我们把它做得越来越大,连接更多的人,创造更多的产品。”

我们刚好达到了我在生活中找到满足感的水平,我认为这是正确的战略。无论是对我个人还是对公司来说,不是只关注于“我们要联系更多的人”,而是更关注于“让我们做一些了不起的事情”。

问:听起来很专业。

扎克伯格:关于这一点有很多不同的类比,但有人告诉我,做好事和做令人敬畏的事情是不同的。社交媒体在很多方面都是好的,它给了很多人发声的机会,让他们相互联系,寻找慰藉。它把一项基本的技术带给数十亿人,但我认为,第一次完成一些技术壮举需要保持一种内在的敬畏。

对于我们下一阶段的工作,我将更加关注这一点。我觉得我们做了很多好事。我认为我们需要确保它们保持良好状态。我认为还有很多工作要做,以确保所有这些都能保持正确的平衡。但对于我人生的下一波浪潮和公司来说,以及公司之外我在CZI做的事情和我的其他个人项目,我现在更多的是与我喜欢的人共同做些了不起的事情,并以此重新定义我的生活。

所以我和Reality Labs的同时共同研究的东西,这真是太令人兴奋了。我可以和研究人员们一起研究人工智能,这真的很令人兴奋。我们可以做些慈善工作,和普莉希拉以及世界上很多最好的科学家一起帮助治疗疾病,这真的很酷。还有一些私人的事情,比如我们要养家糊口。这真是太棒了,我只想和别人一起做这些事。对我来说,这就是我现在的生活状态。

问:听起来很不错。

扎克伯格:是的,我很享受,我是个乐观主义者。

   0


24小时新闻排行榜 更多>>
1 这一幕恐令人民币跌至9
2 刘鹤到底有没被抓?国内消息来了
3 这个瓜很大 刚爆出就被删了
4 存太多钱在储蓄帐户 恐有4后果
5 被习“压着打” 传李强已提辞呈

48小时新闻排行榜 更多>>
1 网络惊传:中共前副总理刘鹤被抓
2 这一幕恐令人民币跌至9
3 刘鹤到底有没被抓?国内消息来了
4 秦刚消失和李小琳有关?已有70人被捕
5 习总受不了 北京正紧急销毁
6 对习近平的个人崇拜 到了这种高度
7 澳洲禁止向中国汇钱?大批华人受影响
8 这个瓜很大 刚爆出就被删了
9 存太多钱在储蓄帐户 恐有4后果
10 错得离谱!北京黔驴技穷
热门专题
1
台湾大选
6
李克强猝逝
11
台海风云
2
中美冷战
7
中国爆雷
12
战狼外交
3
以哈战争
8
李尚福出事
13
普里戈津
4
乌克兰战争
9
秦刚失踪
14
涿州水灾
5
万维专栏
10
火箭军悬案
15
润出中国
一周博客排行 更多>>
1 古代中国人遇到的逻辑问题—— 馋师五代
2 丛林世界群魔乱舞谁跳大神? 阿妞不牛
3 从太子丹到林立果 席琳
4 新冠病毒中的跨物种、跨生物界 苦难与荣耀
5 若敏:亚城慈济的凤梨酥和格鲁 若敏思文
6 《二月的辛夷》出版了。感谢。 老冬儿
7 辛德勒,川普与黎智英 Siubuding
8 【原创】浅析毛左的“爱国主义 左派反毛者
9 访台湾的胡适纪念馆 人参花
10 馬天麟甲骨藝術油畫(Oracle-a 素舟
一周博文回复排行榜 更多>>
1 访台湾的胡适纪念馆 人参花
2 丛林世界群魔乱舞谁跳大神? 阿妞不牛
3 集中回答网友问题,秘传逆天改 金复新
4 《二月的辛夷》出版了。感谢。 老冬儿
5 法轮功该不该被批评? 山蛟龙
6 从太子丹到林立果 席琳
7 中国民主运动缺乏实现政治目标 老陆
8 上帝意志与草民头上的大山 阿妞不牛
9 中国面临问题:4D 马黑
10 金灿荣酒后吐真言, 出卖灵魂 体育老师
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.