从复旦大学自然语言处理实验室获悉,国内首个对话式大型语言模型MOSS已由邱锡鹏教授团队发布至公开平台(https://moss.fastnlp.top/),邀公众参与内测。
复旦MOSS公开后,引起不少网友关注,由于瞬时访问压力过大,MOSS服务器昨晚还被网友挤崩溃了。
从MOSS官网获悉,官方发布公告称,团队最初的想法只是将MOSS进行内测,以便进一步优化,没想到会引起这么大关注,我们的计算资源不足以支持如此大的访问量,并且作为学术团队也没有相关工程经验,造成不好的体验向大家致歉。
据了解,在MOSS完成初步验证后,团队会将MOSS的经验、代码、模型参数开源供大家参考。
值得一提的是,复旦团队开发的这个对话式大型语言模型的名字刚好与《流浪地球》系列电影中的人工智能550W量子计算机MOSS重名。
官方也对这一命名作出解释,原来是团队在训练完成第一代模型时,正好赶上《流浪地球2》的上映,片中MOSS给团队留下深刻印象,因此便使用了这个名称来指代模型,可以说也是对《流浪地球》的致敬。
据悉,MOSS和ChatGPT一样,开发过程也包括自然语言模型的基座训练、理解人类意图的对话能力训练两个阶段。
不同的是,复旦团队采用不同的技术路线,通过让MOSS和人类以及其他对话模型都进行交互,提升学习效率和研发效率,短时间内就高效完成了对话能力训练。