直指端侧痛点，豆包新模型架构最高降本83%
2月12日讯，据豆包大模型团队消息，字节跳动豆包大模型Foundation团队近期提出一种全新的稀疏模型架构——UltraMem，该架构在保证模型效果的前提下，推理速度较传统的MoE架构提升2-6倍，推理成本最高可降低83%。这项创新成果已被机器学习和AI领域的顶级会议ICLR 2025接收，为解决大模型推理效率和扩展能力问题提供了全新思路。
猜你喜欢
- 2025-04-24 苹果 Siri 团队大换血，Vision Pro 班底全面上马
- 2025-04-24 上海市浦东新区：2025年力争培育40家具有较大发展潜力、高成长性的出海先锋企业
- 2025-04-23 全球首颗量产5纳米智驾芯片正式量产上车
- 2025-04-23 教育部新增游戏专业，高等教育迎来“游戏时代”
- 2025-04-23 乘联分会：1-2月新能源乘用车L2级及以上的辅助驾驶功能装车率达到66.3%
- 2025-04-22 广东：要千方百计稳住外贸基本盘 全力支持外贸企业抢抓订单
- 2025-04-22 广东：要持续用力推动房地产市场止跌回稳 加强“好房子”规划设计建设
- 2025-04-22 广东：大力推进免税店建设，优化离境退税“即买即退”服务
- 2025-04-22 姚尚坤：中国低空经济年均增速超30%，2025年市场规模或破1.5万亿元
- 2025-04-22 罗永浩发布细红线招聘信息，此前消息称硬件团队已被全部裁撤