1月21日下午消息,在今天下午举行的2024·傅盛的开年AI大课暨猎户星空企业应用大模型发布会上,猎豹移动董事长兼CEO、猎户星空董事长傅盛在演讲中表示,猎户星空企业应用大模型和GPT-4的全面性肯定是有差距的,但在应用场景上是可以超越GPT-4的,这个是做过测试的。
他表示,猎户星空下一步依然不会去训千亿的大模型,而是在百亿参数模型的性能提优保证,通过新的构架完成它的基础能力的不断提升,这是大模型去做。
傅盛还谈到,为了企业更好应用,业内独家推出了一个叫微调全家桶。“一个基座拿出来,除了技术人员能够去玩一玩,别人都不行,连聊天也不行的,这时候就要有一个微调方向,就是这个模型拿来干嘛,就去微调这个方向。”
他表示,大部分开源厂商发的时候,有的是发完以后再做微调,有时候自带一个,叫插件微调,就是大模型要和传统程序有个接口,这个接口去调用一个API,这就是插件,这个插件是可以专门去做的微调。
傅盛指出,微调只是相对于大模型的预训练是微调,但工作量并不小,而且这些数据的积累真正做到哪个数据能够用得很好,能够让大模型表现更好,都是一点点磨出来的。
下一篇:揭秘AI推理芯片的未来