OpenAI内幕曝光!高管怒斥遭打压,7100亿AI巨头内外交困_tiknovel-最新最全的nft,web3,AI技术资讯技术社区

OpenAI内幕曝光!高管怒斥遭打压,7100亿AI巨头内外交困

2024-05-19 10:09:01  浏览:505  作者:管理员
OpenAI内幕曝光!高管怒斥遭打压,7100亿AI巨头内外交困

万万没想到,美国OpenAI公司的“宫斗大戏”竟然迎来了第二季。

近期,OpenAI首席科学家伊利亚·苏茨克沃(Ilya Sutskever)官宣离职。同日,OpenAI超级对齐团队负责人之一的简·雷克(Jan Leike)也宣布离职。

就在大家为离职事件进行讨论之时,5月18日凌晨,简·雷克直接在社交平台X 上连发13条推文,自述心路历程,并爆料对齐技术团队遭到OpenAI CEO奥尔特曼(Sam Altman)们的打压。

简·雷克表示:“这是我担任 OpenAI 公司超级对齐部门负责人、高级领导以及执行层成员的最后一天。在过去的 3 年里,我们的团队取得了很多成果,但我在公司核心发展重点的问题上与领导层存在长期分歧,最终无法调和。我认为应该将更多资源和精力投入到为新一代 AI 模型做准备的工作中,但目前的发展路径无法顺利达成目标。我的团队在过去几个月面临巨大挑战,有时难以获取足够的计算资源。”

简·雷克强调,创造超越人类智能的机器充满风险,OpenAI 正在承担这一责任,但安全文化和流程在追求产品开发过程中被边缘化。“我们应该极其严肃地对待通用人工智能(AGI)可能带来的深远影响,尽最大努力优先做好应对 AGI 的准备,确保其惠及全人类。OpenAI必须转型为一家将安全放在首位的AGI公司。”

针对简·雷克的爆料信息,5月18日奥尔特曼也紧急发文回应称:“我非常感激简·雷克对OpenAI在 AI 超级对齐研究和安全文化方面的贡献,对他离开公司感到非常遗憾。他指出了我们还有很多工作需要完成,我们对此表示认同,并致力于推进这些工作。在接下来的几天里,我会撰写一篇更详细的文章来讨论这个问题。”

5月19日凌晨,OpenAI联合创始人、总裁格雷格·布罗克曼(Greg Brockman)发长文回应称,感谢简·雷克对 OpenAI 的贡献,并强调对 AGI 风险与机遇的认知,包括呼吁国际治理等,而且阐述为安全部署更强大系统所做的努力,如GPT-4的推出及后续改进,而未来更具挑战性,需提升安全工作以匹配新模型,但承认无法预知所有未来情况,强调需紧密反馈、严格测试等。

今天早上5点,奥尔特曼再发推文承认,公司员工有签保密协议,退出条款包括撤销员工在公司的既得股权,如果他们贬低公司或承认这些条款的存在,但奥尔特曼认为这“不应该是”,并补充说他对这些条款“真的感到尴尬”。

“大约在过去一个月的时间里,该团队已开始修复标准离职文书。如果任何签署过这些旧协议的前雇员对此感到担心,他们可以联系我,我们也会解决这个问题。对此我深感抱歉。”奥尔特曼在推文中表示。

OpenAI内幕曝光!高管怒斥遭打压,7100亿AI巨头内外交困

实际上,当前,这家估值1000亿美金(胡润研究院数据,约合人民币7100亿元)的 AI 巨兽OpenAI正面临新的内部和外部的双重承压。

奥尔特曼最近表示,未来 OpenAI 希望训练人们经常使用 AI,从而不断产生更大的技术价值。

伊利亚与奥尔特曼的内部路线之争

如果把时间重新拉回到最初OpenAI“宫斗”之争之时,今天只是这场围绕伊利亚与奥尔特曼路线分歧的“续集”。

2023年11月17日,作为全球最受瞩目的 AI 公司,OpenAI董事会突然宣布解雇CEO奥尔特曼和总裁格雷格·布罗克曼(Greg Brockman),并宣布公司CTO米拉接任。

舆论哗然,这一事件引发全球关注,多位公司高管和投资人声援支持奥尔特曼,包括OpenAI的最大支持者微软等,游说让奥尔特曼重新掌舵,明确表示奥尔特曼是OpenAI成功的重要组成部分。

而在这个过程中,伊利亚伙同OpenAI董事会合作试图解雇掉奥尔特曼。

据The Information,在 OpenAI 当天举行的全员会上,伊尔亚承认员工所说的这是一场 “政变”。他表示 “你可以这么说(是政变),但我觉得这只是董事会在履行自己的职责。”

几天后,在舆论的包围下,剩下的董事会成员改变了主意,恢复了奥尔特曼的首席执行官职位,并选择集体辞职。

2023年12月8日,OpenAI特别委员会聘请美国著名律师事务所WilmerHale对奥尔特曼“罢免”事件进行审查。

今年3月,经过数月的调查,OpenAI最终宣布,奥尔特曼并未有不当行为,即“不构成强制解雇”。董事会解雇奥尔特曼是基于与他的关系破裂和信任丧失,而非产品安全、开发进度、公司财务状况或对投资者、客户和商业伙伴声誉的担忧,并没有发现奥尔特曼应该被解雇的证据。因此,奥尔特曼将继续担任公司CEO、董事职务。

据前Salesforce CEO布雷特·泰勒(Bret Taylor)的说法,对董事会混乱的后续审查得出结论,前董事会与奥尔特曼之间的信任严重破裂,但没有证据表明首席执行官误导投资者或以不安全的速度推出产品。在前董事会解散后,布雷特·泰勒被任命为OpenAI董事。

“这只是董事会和奥尔特曼先生之间信任的破裂。”泰勒表示,之前的董事会“本着诚信行事,没有预料到之后的一些不稳定因素。”

尽管奥尔特曼最终重回OpenAI并执掌大权,但其与伊尔亚两派对 OpenAI公司发展观念的不同,这一路线之争一直没有得到圆满解决。

实际上,随着ChatGPT 爆火,在奥尔特曼的带领下,OpenAI 加速了商业化步伐,通过追求利润来资助非营利目标,也不再开放。目前GPT-5 正在研发中,而且计划向微软和更多的投资方筹集资金。奥尔特曼认为,美国人放慢 OpenAI 的进展是愚蠢的。有消息称,去年OpenAI年化收入已经超过20亿美元。

《大西洋月刊》副主编 Ross Andersen 前不久发表的一篇关于 OpenAI 革命的特稿,就能察觉伊尔亚和奥尔特曼关注点的不同。在这篇罕见的长文中,作者这样描述这位首席科学家,“有一种神秘主义者的感觉,有时会有点过头。” 他声称GPT-4可能 “有轻微意识”,引起诸多争议。

事实上,奥尔特曼罢免事件结束后,伊利亚在社交平台上“消失”了,直至前几天官宣离职。而且据称,他已经有超过6个月没有出现在OpenAI办公室了。

“在过去的一个月里,我吸取了许多教训。其中一个教训是,‘在士气提高之前,殴打会一直持续下去’这句话比它应有的含义更经常地适用。”当时,伊利亚还留下了这一条耐人寻味的推文,但很快就删除了。

据内部人士透露,事件发生后,伊利亚一直远程共同领导着超级对齐团队。

然而,在公司内部,员工们对奥尔特曼的态度表现不一,更多人开始支持“伊利亚路线”。而对于奥尔特曼最大的指控就是言行不一,比如他声称自己想优先考虑安全,但他的行为却很矛盾。更早之前,OpenAI还从一家奥尔特曼投资的一家初创公司订购算力,总额高达5100万美元(约合人民币3.6亿元)。

5月15日,在谷歌I/O开发者大会结束数小时内,伊利亚突然宣布辞职。

“近十年后,我决定离开 OpenAI。公司的发展轨迹堪称奇迹,我相信 OpenAI将在奥尔特曼等人的出色领导下,打造既安全又有益的 AGI。能够与大家共事是我的荣幸,我会非常想念大家。再见,感谢你们所做的一切。我很期待接下来的计划——这个项目对我个人来说意义重大,我会在适当的时候分享细节。”伊利亚表示。

而仅仅间隔两分钟后,奥尔特曼发推文回应称,对此非常难过,如果没有伊尔亚,OpenAI 就不会有今天。

OpenAI内幕曝光!高管怒斥遭打压,7100亿AI巨头内外交困

这一切都像是设计好的一样。

据Vox报道,更注重安全的员工已经对奥尔特曼失去了信心,“这是一个信任一点一点崩溃的过程”。

但公开场合没有内部离职员工表达相关想法。报道称,一部分原因是,OpenAI一直以来,都有让员工签署带有非贬低协议的离职协议的传统。如果拒绝签署,就等于放弃了此前拿到的OpenAI的期权,这意味着出来说话的员工可能会损失一笔巨款。

实际上,伊利亚的辞职加剧了OpenAI近期的离职潮。除了伊利亚、简·雷克之外,目前有至少五个安全团队成员离职。

谈及伊利亚时,奥尔特曼也承认,他确定了公司最重要的大方向:遵循规律效应(Scaling Law)做大语言模型。

“我们最初只是玩机器人和游戏等一些小项目,有人开始研究大模型,但伊利亚坚定地相信它,并且确定了我们的大方向,我们从GPT-1一口气做到GPT-4。”奥尔特曼称。

一位OpenAI离职员工Daniel Kokotajlo评价称:“OpenAI正在训练更强大的AI系统,目标是最终全面超越人类智能。这可能是人类有史以来发生过的最好的事情,但如果我们不小心行事,也可能是最糟糕的事情。”

外部质疑越来越多,行业认为GPT-4o没有想象中那么惊艳

不仅是内部的AGI路线争议,OpenAI在外部也面临巨大的议论和承压。

5月14日凌晨,OpenAI推出可免费使用、可实时进行音频、视觉和文本推理、短至232毫秒响应音频输入的全新旗舰AI模型GPT-4o,并将推出PC桌面版ChatGPT。

OpenAI首席技术官米拉·穆拉蒂 (Mira Murati)表示,在API使用方面,相比去年11月发布的GPT-4-turbo,GPT-4o价格降低一半(50%),速度提升两倍(200%)。

奥尔特曼称,新的GPT-4o是OpenAI有史以来最好的模型,它很智能,速度很快,是原生多模态,并且它可供所有ChatGPT用户使用,无论是免费版本还是付费GPT-4版。“这对我们的使命很重要,我们希望将出色的 AI 工具交到每个人手中。”

不过,市场认为,GPT-4o没有想象当中那么惊艳,OpenAI也未能呈现出GPT-5这一跨时代产品。

猎豹移动董事长兼CEO、猎户星空董事长傅盛表示,此次更新比较让人失望,他认为这次OpenAI没有发布GPT-5.0,连GPT4.5也没有看到,反而是发布了GPT4o,就是把一系列的引擎给结合在一起,比如图片、文字、声音,这样你就不需要来回去切换了。

“所有 AI 从业者都在熬夜等着大洋彼岸放核弹,但是没想到核弹没有放,掏出了一堆的摔炮。”傅盛称。

澜码科技创始人兼CEO周健向钛媒体App表示,GPT-4o在多模态能力和实时交互能力方面取得了显著进步,但与GPT-4相比,其提升并不具有颠覆性,整体进步不够惊艳。而且,GPT-4o在长时记忆、社会智能和逻辑推理方面的能力并没有显著提升。

“在我看来,GPT-4o只是用Scaling Law(规模效应)堆了大量算力,有了大量的数据,堆出来了一个东西,并不像 GPT-4 之于GPT-3.5那样有颠覆性地提升。GPT-4o是很不错,但是基本都在意料之中,没有很惊艳。”周健称。

与此同时,一位 AI 行业人士向钛媒体App表示,目前OpenAI面临大量的算力短缺问题,无法支撑未来AGI目标下的模型性能提升。GPT-4o的发布很明显说明OpenAI的GPT研发进展放缓。

另外,MIT Technology Review(麻省理工科技评论)报道称,普林斯顿大学博士Tianle Cai认为,GPT-4o的中文token训练数据受到垃圾邮件和网站的污染,可能是由于数据清理不充分所致。

“问题很明显:用于训练[分词器]的语料库不干净。英文token看起来不错,但中文token就不行了,”Cai表示。语言模型在收集训练数据时抓取垃圾邮件的情况并不罕见,因为通常会在使用数据之前花费大量精力来清理数据,因此,“他们可能没有对中文数据进行适当的数据清理。”

不过,周健也认为,GPT-4o的发布将对数字人、智能语音助手、游戏、教育、营销等行业产生重大影响。而对澜码这样的企业级Agent平台公司而言,GPT-4o的发布有助于其更好地利用专家知识和经验,使Agent获得更强的能力。

有分析认为,大模型发展至今,如何实现AGI已经归结为两条路:技术派希望技术成熟可控再应用;市场派则认为开放、应用并逐步走到终点。

近期,科技博主Logan Bartlett公布与奥尔特曼的对话视频。

奥尔特曼回忆了去年11月董事会“政变”期间,他收到世界各地一、二十个国家的总统和总理的问候,以及在那5天期间所承受的极度的压力,称之为一生中最奇特(surreal)的时刻。

奥尔特曼还表示,达到AGI的最大障碍就是新的研究。

“我认为最大的障碍是新的研究。从互联网软件到人工智能,我必须学会的一件事是,研究工作的时间表与工程不同。这通常意味着它需要更长的时间,但有时意味着它的工作速度比任何人预测的都要快得多。在科学和工程上有许多这样的例子,从建立理论,到在实验中发现并且证实,再到实际的应用,是一个漫长的过程。有些停留在理论的层面上百年了,但有些在突破之后,以惊人的速度变化。”奥尔特曼称。

谈到ChatGPT-4o的重要性,奥尔特曼称,这种使用电脑的方式不可思议。

“用声音控制电脑,我们有这样的想法很长一段时间了。你知道,我们有Siri,以前还有其他一些产品。对我来说,之前这些产品在使用上从来没有自然过。但是这个新产品,它的流动性,柔韧性,简直太棒了,我简直不敢相信我这么喜欢用它。”奥尔特曼表示,试用了一周左右的时间,当他在工作的时候,把手机放在桌子上,然后根本不用换界面。他在做某件事的时候,通常会停下手头的工作,切换到另一个标签,比如谷歌,再四处点击。但现在,用户只需要提问,它就能给出一个即时的回应,一点也不影响我在电脑上看东西,这是一件非常酷的事情。

对于GPT-5,奥尔特曼强调,AI并不总是带来惊喜。

“我们仍然可以叫它GPT-5,并以不同的方式发布它,或者我们也可以给它一个别的名字。不过,如何为这些东西命名对我来说并没有什么特别的意义,比方说发布从GPT- 1到 GPT-4。显然GTP-4会继续变得更好。我们也有这样的想法,可能会有一个潜在的、类似于虚拟大脑的东西,它可以在某些情况下更加努力地思考。或者可能是不同的模型。所以目前我们还不知道如何去在市场上推广我们的产品。”奥尔特曼称,随着模型规模越来越大,会使用更多计算,从而发现令人难以置信的效率提升。

展望未来,周健强调,他希望GPT大模型提升长时记忆或者社会智能,以及希望拥有更强的逻辑推理能力,从而代表它会有一定的反思能力,而目前GPT-4o其实还是一个“缸中之脑”。

奥尔特曼称,大模型开始具备越来越多的能力,很多年以后,人类仍然会关心其他人类。我们是如此倾向于长期关注,以各种各样的、大大小小的方式——都是对其他人的痴迷,但人类未来不会在意 AI 带来的作用。

“我们都应该希望有一个非常智能、非常便宜的世界,人们用它做各种各样的事情:我想要阅读我所有的邮件,然后帮我回复;我想要治疗癌症。你当然会选择治疗癌症,但答案是,你喜欢它同时做这两件事,我只是想确保我们有足够的钱来做这些。”奥尔特曼称。

出门问问创始人兼CEO李志飞强调,“人机交互这个渣男,因为GPT-4o的出现,有望真的重新做人,开启下一波的科技、应用、和商业模式的革命,期待下一个十年。”


评论区

共 0 条评论
  • 这篇文章还没有收到评论,赶紧来抢沙发吧~

【随机内容】

返回顶部