大模型训练“练兵千日”,别输在AI推理“用兵一时” - 极客网原文
2025-08-07 20:42
158
2025年被视为AI智能体元年,AI推理成为算力需求的核心增长点。中国大模型在推理体验上已落后于美国,表现为时延高、准确度低等问题。Token经济时代下,推理成本攀升,价格战难以为继,体验战至关重要。中国面临高端GPU和HBM受限、软件生态薄弱等挑战,需通过硬件+软件系统创新及生态建设寻求突破。
全部评论