新AI推理优化工具SGLang商业化，新公司RadixArk估值40亿美元，推理市场争夺战白热化
当AI模型推理成本成为企业规模化应用的最大瓶颈时，一项源自顶尖学术实验室的开源技术，正以惊人的速度完成从代码到商业巨头的蜕变。最新市场消息显示，旨在优化AI模型推理（Inference）性能的开源引擎...
排序
新vLLM商业化公司Inferact获1.5亿美元融资，AI推理市场迎来爆发前夜
随着AI竞赛进入下半场，一个关键战场正从模型训练转向推理部署 (Inference)。最新市场动态显示，旨在让大模型运行更快、更便宜的底层技术，正成为资本追逐的新焦点。近日，开源项目vLLM的创始团队...