據報道，清華大學高性能計算研究所翟季冬教授團隊與清華系科創企業清程極智聯合宣布，開源大模型推理引擎“赤兔Chitu”。這一突破性技術為國產AI芯片的廣泛應用和生態建設帶來了新的機遇。
“赤兔Chitu”首次實現在非英偉達Hopper架構GPU及各類國產芯片上原生運行FP8精度模型，解決了FP8精度模型對英偉達Hopper架構（如H100/H200）的硬件依賴。
在A800集群的測試中，赤兔引擎在GPU使用量減少50%的情況下，推理速度提升了3.15倍，顯著降低了企業的硬件成本，同時提高了性能輸出。
赤兔引擎的智能優化技術能夠快速適配不同芯片架構，使國產廠商無需重復開發軟件，專注于硬件升級。目前，清程極智已與沐曦、燧原等廠商合作，推出“開箱即用”的推理一體機，廣泛應用于金融、醫療等行業。
清程極智CEO湯雄超表示，當前國內在推理引擎這一核心環節仍缺乏生產級開源產品。開源“赤兔”引擎是推動國內AI生態建設的重要一步，將為行業提供更高效、更靈活的技術支持。
