2025-03-14 11:44发布于北京机器之心官方账号 「国产大模型 + 国产引擎 + 国产芯片」的完整技术闭环正在加速形成。 随着 DeepSeek 引燃市场对于大模型私有化部署的热情，模型部署的效率与成本成为企业 AI 落地的关键瓶颈。 今天 ...

2025年3月14日，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业 「清程极智 」联合宣布，开源大模型推理引擎 “赤兔Chitu”，该引擎首次实现在非英伟达Hopper架构 ...

赤兔Chitu引擎的推出，标志着对传统推理技术的一次颠覆。该引擎开创性地实现了在非英伟达Hopper架构的GPU及多款国产芯片上，支持FP8精度模型的原生运行。这项技术的突破，直接导致推理成本降低了一半，而性能却实现了惊人的翻倍，提高了整体运算效率。在信息全球化的今天，这一创新让国内开发者和企业在面对日益激烈的市场竞争时终于拥有了一张强有力的“底牌”。

IT之家3 月 14 日消息，清华大学高性能计算研究所翟季冬教授团队、清华系科创企业清程极智今日联合宣布，大模型推理引擎“赤兔 Chitu”现已开源。 据介绍，该引擎首次实现在非英伟达 Hopper 架构 GPU 及各类国产芯片上原生运行 FP8 精度模型，实现 DeepSeek 推理成本降低一半、性能翻番。其定位为“生产级大模型推理引擎”，提供如下特性： 多元算力适配：不仅支持 NVIDIA 最 ...

清华大学高性能计算研究所传来重要消息，翟季冬教授团队携手清华系科创先锋清程极智，共同宣布了一项重大开源成果——大模型推理引擎“赤兔 Chitu”。