首页 > 资讯 > 正文

谷歌最新AI大语言模型数据量扩充5倍


(资料图)

5月17日消息,据报道,谷歌上周发布的最新大语言模型使用的训练数据,几乎是2022年的上一代模型的5倍。得益于此,该模型在编程、数学和创意写作方面的表现更为优秀。 谷歌是在其I/O开发者大会上发布最新通用大语言模型PaLM2的。内部文件显示,该模型采用了3.6万亿个令牌(token)进行训练。令牌指的是单词串,这是训练大语言模型的重要基础,因为这可以教给模型如何预测字符串中可能出现的下一个单词。而之前版本的PaLM发布于2022年,当时使用的令牌为7800亿个。(新浪科技)

关键词:


您可能也喜欢这些文章

Copyright   2015-2023 华夏音箱网 版权所有  备案号:琼ICP备2022009675号-37   联系邮箱:435 227 67@qq.com