美国达特茅斯工程学院公布了对OpenAI首席技术官米拉·穆拉蒂(Mira Murati)的采访视频。米拉在采访中透露,GPT-5将在一年半后发布,在某些领域将达到博士的智能。与此同时,Claude 3.5 Sonnet,已经成为了第一个测试分数高于最聪明的人类博士的模型。
近日,OpenAI CTO米拉·穆拉蒂在达特茅斯工程学院发表了关于AI在各行业中的变革潜力及其对工作的影响的重要言论。
米拉表示,大约一年半年后,OpenAI将发布“博士生水平”的人工智能。相较之下,GPT-3相当于幼儿的智能水平,GPT-4更像高中生的智能水平。但她强调,博士等级的AI仅适用于某些特定任务,“这些系统在某些特定的任务中已经达到了人类水平,当然在许多其他任务中,它们还达不到。”
与此同时,Anthropic于6月20日官宣发布了全新大模型 Claude 3.5 Sonnet,号称是迄今为止最智能的模型。
Claude 3.5 Sonnet不仅将AGI的倒计时推至75%,更是成为了第一个测试分数高于最聪明的人类博士分数的模型。
据Life Architect数据显示,Claude 3.5 Sonnet在研究生级推理(GPQA)、本科级知识(MMLU)和编码能力(HumanEval)上都刷新了SOTA。其中,在MMLU上,它得分90.4;在GPQA上,得分为67.2。这也是首次,LLM突破了GPQA 65%的分数,达到了最聪明的人类博士的水平。普通博士在GPQA上的得分为34%,领域内专业博士的得分为65%,而Claude 3.5 Sonnet,显然已经超越了他们。
在达特茅斯学院的采访中,主持人提出了一个假设性的问题,他问:“假设在三年后GPT变得极其智能,它是否可能自行连接到互联网并开始行动?”
对此,米拉回答说:“确实,我们对此进行了很多思考。具备AI智能体能力的系统确实存在,它们会连接到互联网,进行相互之间的交流,共同完成任务,或者与人类无缝合作。因此,我们在未来与AI的合作可能会像我们现在彼此之间的合作一样。”
人工智能的进步速度令人惊叹。
在2022年,专家们预测,人类水平的人工智能有可能在本世纪的60年代兴起,可能性为50%。然而,Metaculus预测员社区的预测时间更早,他们预测的是40年代。随着GPT-4的发布,社区的预测时间开始提前,预计在2032年,甚至最早在2027年,我们就有可能实现AGI。
6月20日凌晨,前 OpenAI 联合创始人、首席科学家伊尔亚·苏茨克(Ilya Sutskever)在社交媒体上官宣成立新公司 SSI,专注于安全超级智能。
网友称:“好家伙!这是直接越过AGI,一步迈向Super Intelligence(超级智能)了。”
伊尔亚在SSI官方账号中官宣的“开场词”里表示:“超级智能已经触手可及。构建安全超级智能(SSI)是我们这个时代最重要的技术问题。”
他还补充道:“我们将以一个焦点、一个目标、一个产品,直接追求安全的超级智能。我们将通过一个小而高效的团队所创造的革命性突破来实现它。”
然而,人工超级智能的发展也引发了一些担忧。
近日,一篇预印本论文提出观点:随着人工超级智能(ASI)的实现,人工智能无与伦比的能力可能会让人们尊其为神,从而产生一种认知偏差,不加质疑地接受它的决定。
作者特飞科·欧亚尔(Tevfik Uyar)警告说,这种现象可能导致我们混淆技术进步与道德伦理的优越性。“我们不能因为ASI的能力强大,就认为它在道德和伦理上也同样表现优越。”
更令人担忧的是,这种动态可能导致一种“技术官僚神权统治”,在这种统治下,决策权被移交给ASI,从而破坏了人类的主动性和批判性思维。作者强调:“如果我们将决策权交给ASI,那么人类的主动性和批判性思维可能会受到破坏。”