AI推理

随着AI竞赛进入下半场，一个关键战场正从模型训练转向推理部署 (Inference)。最新市场动态显示，旨在让大模型运行更快、更便宜的底层技术，正成为资本追逐的新焦点。近日，开源项目vLLM的创始团队...

全球AI计算领域的年度风向标即将揭幕。市场消息显示，NVIDIA年度GPU技术大会（GTC）将于下周在美国圣何塞拉开帷幕，备受瞩目的首席执行官黄仁勋（Jensen Huang）主题演讲定于太平洋时间周...

在AI模型训练成本高企、推理（Inference）成为运营成本核心的当下，科技巨头正通过自研芯片寻求破局。最新行业动态指出，微软已正式推出其第二代AI推理专用芯片Maia 200，性能较前代实现大幅跃...

在生成式AI算力需求呈指数级增长的今天，成本与性能的平衡已成为行业最核心的痛点。市场消息显示，亚马逊AWS正通过其自研的Trainium系列AI加速芯片，为包括Anthropic、OpenAI乃至苹果...

在授权芯片设计长达35年后，半导体架构巨头Arm迈出了历史性的一步：亲自下场制造芯片。最新行业动态指出，Arm已正式发布其首款自研数据中心CPU——Arm AGI CPU，这是一款专为AI推理工作负载...

当全球数据中心因AI推理任务而电力吃紧时，一项源自“超材料”前沿研究的技术，正试图从根本上改写计算硬件的游戏规则。最新行业动态指出，一家专注于光子计算（Photonic Computing）的初创公司...

一场价值可能高达千亿美元的芯片采购协议，正在重塑全球人工智能（AI）算力格局。市场消息显示，科技巨头Meta与芯片制造商AMD达成了一项多年期战略合作，后者将向Meta供应其最新的CPU和GPU产品...

当全球的目光都聚焦于GPU（图形处理器）的算力竞赛时，一场关于AI（人工智能）基础设施底层架构的深度合作正在悄然展开。最新行业动态指出，科技巨头谷歌与半导体领导者英特尔已达成一项为期多年的扩展合作协议...

当全球科技巨头为运行AI大模型而疯狂抢购GPU时，一家初创公司正试图用一种颠覆性的软件方案，将现有数据中心算力利用率提升十倍。最新市场消息显示，由斯坦福大学客座教授扎因·阿斯加尔创立的Gimlet L...

全球AI算力格局即将迎来新一轮风向标。英伟达年度GPU技术大会（GPU Technology Conference, GTC）将于本周在美国圣何塞拉开帷幕，其创始人兼CEO黄仁勋的主题演讲无疑是整个科...