全球首个!中国电信发布单体稠密万亿参数语义模型Tele-FLM-1T
鹿角|
快科技| 2024-06-19
【流媒体网】摘要:中国电信人工智能研究院联合北京智源发布全球首个单体稠密万亿参数语义模型Tele-FLM-1T,展示了高算力能效。
据“中国电信”官微发文,中国电信人工智能研究院(TeleAI)联合北京智源人工智能研究院发布全球首个单体稠密万亿参数语义模型Tele-FLM-1T,成为国内首批发布稠密万亿参数大模型的机构。
面对大模型训练过程中算力消耗巨大的挑战,TeleAI与智源通过深度研发,结合模型生长和损失预测等关键技术,成功推出了Tele-FLM系列模型。这一系列模型在算力资源的使用上,仅消耗了业界普通训练方案的9%,展现出极高的算力能效。
通过使用112台A800服务器,TeleAI团队在短短4个月内完成了3个模型总计2.3T tokens的训练,全程无需任何调整和重试,充分证明了模型训练的稳定性和收敛性。
值得一提的是,Tele-FLM-1T版本即将开源,此举旨在为社区提供训练万亿稠密模型的技术参考,有效解决万亿模型训练收敛难等问题,进一步推动大模型技术的进步。
TeleAI不仅在技术创新上不断突破,还积极通过开源方式推动大模型技术的普及和国产化进程。他们接连开源了7B、12B、52B参数规模的大模型,这些模型在开源社区中引发了广泛讨论和使用,开源模型下载量已超过万次,吸引了超过40万用户。
责任编辑:李紫悦
版权声明:凡注明来源“流媒体网”的文章,版权均属流媒体网所有,转载需注明出处。非本站出处的文章为转载,观点供业内参考,不代表本站观点。文中图片均来源于网络收集整理,仅供学习交流,版权归原作者所有。如涉及侵权,请及时联系我们删除!
24小时热文
流 • 视界
专栏文章更多
- [常话短说] 【解局】全国广电干部密集换帅! 2026-11-16
- [常话短说] 【突发】机顶盒被植入后门?! 2026-11-13
- [常话短说] 【重磅】多省IPTV用户数下滑吗?! 2026-11-12
- [勾正科技] 从“买广告位”到"经营内容“:2026,内生广告正在重构品牌价值 2026-11-11
- [常话短说] 【突发】某广电一干部被查! 2026-11-11

