DeepSeek通过MoE架构的创新让激活参数比大幅下降，使得同等效果的大模型所需的算力明显下降。“671B的模型，在处理每个问题时，被调用激活的专家模型参数仅约37B，算力需求起码降低到原来的约二十分之一。”阿里云无影事业部总裁张献涛曾在接受《每日 ...

早前，豆包团队发布了新一代稀疏架构UltraMem，将模型推理成本 砍掉 83%，此次，又开源了COMET，向 模型训练 成本出手。从技术理念上看，两者还可以 结合使用，组成一套“砍价刀法” 。

新浪科技讯 3月10日晚间消息，字节豆包大模型团队官宣开源一项针对 MoE 架构的关键优化技术，可将大模型训练效率提升1.7倍，成本节省40%。据悉，该技术已实际应用于字节的万卡集群训练，累计帮助节省了数百万 GPU 小时训练算力。 MoE 是当前大模型的主流架构，但其在分布式训练中存在大量跨设备通信开销，严重制约了大模型训练效率和成本。以海外主流模型Mixtral-8x7B为例， 其训练过程中通 ...

3月10日，字节豆包大模型团队在国际知名开源社区平台GitHub上开源了一项针对 ...

3 月 10日，字节豆包大模型团队官宣开源一项针对 MoE 架构的关键优化技术，可将大模型训练效率提升1.7倍，成本节省40%。据悉，该技术已实际应用于字节的万卡集群训练，累计帮助节省了数百万 GPU 小时训练算力。 MoE ...

字节跳动豆包大模型团队近日开源一项名为COMET的MoE架构优化技术，可将大模型训练效率提升1.7倍。论文显示，该技术已实际应用于字节的万卡集群训练，实现数百万GPU小时训练算力的节省。

在深度学习的时代潮流中，节省计算资源和优化模型训练成本变得尤为重要。近日，字节跳动旗下的豆包团队宣布，再次在Mixture of Experts（MoE）模型的训练中削减成本，整整节省了高达40%的训练开支！这一次，他们的秘密武器是刚刚开源的COMET技术。

周五，Deutsche Bank分析师调整了对Comet Holding AG (COTN:SW)的预期，将目标价从CHF 360下调至CHF 330，但维持对该股票的"买入"评级。此次调整是在Comet发布2025年展望不及预期后做出的。公司现预计销售额将达到CHF 4.8亿至CHF 5.2亿之间，同比增长8-17%，明显低于此前21%的市场一致预期。这一新预测更接近Deutsche ...

2025年3月4日周二，Kura Oncology（纳斯达克股票代码：KURA）在TD Cowen第45届年度医疗保健会议上发表演讲，概述了其在靶向癌症治疗方面的战略计划。公司强调了其稳健的财务状况和创新的临床试验设计，同时也认识到在竞争激烈的市场环境中面临的挑战。