新闻资讯

行业资讯

当前位置：首页 / 新闻资讯 / 行业资讯

中国电信发布全球首个单体稠密万亿参数语义模型Tele-FLM-1T

发布日期：2024-06-20     44 次

6月19日消息，据“中国电信”官微发文，中国电信人工智能研究院（TeleAI）联合北京智源人工智能研究院发布全球首个单体稠密万亿参数语义模型Tele-FLM-1T，成为国内首批发布稠密万亿参数大模型的机构。

面对大模型训练过程中算力消耗巨大的挑战，TeleAI与智源通过深度研发，结合模型生长和损失预测等关键技术，成功推出了Tele-FLM系列模型。这一系列模型在算力资源的使用上，仅消耗了业界普通训练方案的9%，展现出极高的算力能效。

1.png

通过使用112台A800服务器，TeleAI团队在短短4个月内完成了3个模型总计2.3T tokens的训练，全程无需任何调整和重试，充分证明了模型训练的稳定性和收敛性。

值得一提的是，Tele-FLM-1T版本即将开源，此举旨在为社区提供训练万亿稠密模型的技术参考，有效解决万亿模型训练收敛难等问题，进一步推动大模型技术的进步。

TeleAI不仅在技术创新上不断突破，还积极通过开源方式推动大模型技术的普及和国产化进程。他们接连开源了7B、12B、52B参数规模的大模型，这些模型在开源社区中引发了广泛讨论和使用，开源模型下载量已超过万次，吸引了超过40万用户。

2.jpg


版权声明：本站内容除特别声明的原创文章之外，转载内容只为传递更多信息，并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题，请及时通过电子邮件或电话通知我们，以便迅速采取适当措施，避免给双方造成不必要的经济损失。联系电话：020-2204 2442,邮箱：Sales@greentest.com.cn。
上一篇: 消息称台积电研究新的先进芯片封装技术 矩形代替圆形晶圆
下一篇: 新研究表明星链卫星正吞噬地球臭氧层

为您精选

热门文章

最新文章

热门标签

EMC EMI 车载充电机 OBC 新能源电车 EV 5G 无线通信 征收关税 主板 显卡 DV试验 DVP试验 频谱仪 示波器 OCV测试 锂电池 xAI AI芯片 英伟达 传导发射 新能源汽车 物联网 SoC芯片 人工智能 AIoT 半导体VPD测试 直流充电桩 交流充电桩 emc ECU ECM 电动汽车 电波暗室 测试测量 天线测试 通信系统 ISO协议 SAR测试 混响室 隔声室 消声室 华为 数据中心 低碳 科技 无线连接 电源 MVG SSD 雷达传感器 emi测试 新能源 电动车 GB2423 冷热冲击试验 芯片 AI 大模型 AMD

寻找更多销售、技术和解决方案的信息？

联系我们
关于绿测

广州绿测电子科技有限公司（简称：绿测科技）成立于2015年11月，是一家专注于耕耘测试与测量行业的技术开发公司。绿测科技以“工程师的测试管家”的理念向广大客户提供专业的管家服务。绿测科技的研发部及工厂设立于广州番禺区，随着公司业务的发展，先后在广西南宁、深圳、广州南沙、香港等地设立了机构。绿测科技经过深耕测试与测量领域多年，组建了一支经验丰富的团队，可为广大客户提供品质过硬的产品及测试技术服务等支持。

查看详情
应用解决方案
产品与服务
新闻资讯
绿测工场服务号
绿测工场服务号
绿测科技订阅号
绿测科技订阅号
020-2204 2442
Copyright @ 2015-2024 广州绿测电子科技有限公司 版权所有 E-mail：Sales@greentest.com.cn 粤ICP备18033302号