新闻资讯

行业资讯

当前位置：首页 / 新闻资讯 / 行业资讯

AMD 推出自家首款小语言模型“Llama-135m”

发布日期：2024-09-30     161 次

9 月 29 日消息，AMD 在 Huggingface 平台公布了自家首款 " 小语言模型 "AMD-Llama-135m，该模型具有推测解码功能，拥有 6700 亿个 token，采用 Apache 2.0 开源许可，附模型地址如下。

1.jpg

据介绍，这款模型主打 " 推测解码 " 能力，其基本原理是使用小型草稿模型生成一组候选 token，然后由更大的目标模型进行验证。这种方法允许每次前向传递生成多个 token，而不会影响性能，从而显著减少 RAM 占用，实现效率提升。

AMD 表示，这款模型在四个 AMD Instinct MI250 节点训练了六天，其 " 编程专用版本 " 变体 AMD-Llama-135m-code 则额外耗费了四天时间进行微调。


版权声明：本站内容除特别声明的原创文章之外，转载内容只为传递更多信息，并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题，请及时通过电子邮件或电话通知我们，以便迅速采取适当措施，避免给双方造成不必要的经济损失。联系电话：020-2204 2442,邮箱：Sales@greentest.com.cn。
上一篇: 美国加州州长否决人工智能安全法案SB1047
下一篇: AI大师本ThinkPad P1 AI 2024 AI元启版加速专业领域内容创作 通过ISV认证

为您精选

热门文章

最新文章

热门标签

车载充电机 OBC 新能源电车 EV EMC EMI OCV测试 锂电池 5G 无线通信 ECU ECM 传导发射 xAI AI芯片 英伟达 新能源汽车 毫米波 封装天线 AiP 直流充电桩 交流充电桩 TTL电路 电路设计 WIFI WiMAX LTE UWB DV试验 DVP试验 新能源 电动车 太阳能 风能 水能 地热能 电流表 仪器 wifi无线网络 emc 混响室 隔声室 消声室 半导体VPD测试 征收关税 主板 显卡 蓝牙测试 Bluetooth 测试测量 物联网 SoC芯片 人工智能 AIoT 电动汽车 充电模块 充电桩 频谱仪 示波器 电磁兼容性

寻找更多销售、技术和解决方案的信息？

联系我们
关于绿测

广州绿测电子科技有限公司（简称：绿测科技）成立于2015年11月，是一家专注于耕耘测试与测量行业的技术开发公司。绿测科技以“工程师的测试管家”的理念向广大客户提供专业的管家服务。绿测科技的研发部及工厂设立于广州番禺区，随着公司业务的发展，先后在广西南宁、深圳、广州南沙、香港等地设立了机构。绿测科技经过深耕测试与测量领域多年，组建了一支经验丰富的团队，可为广大客户提供品质过硬的产品及测试技术服务等支持。

查看详情
应用解决方案
产品与服务
新闻资讯
绿测工场服务号
绿测工场服务号
绿测科技订阅号
绿测科技订阅号
020-2204 2442
Copyright @ 2015-2024 广州绿测电子科技有限公司 版权所有 E-mail：Sales@greentest.com.cn 粤ICP备18033302号