瀚博首款AI推理芯片出炉，性能超越英伟达T4，年内即将量产

机器之心报道
作者：泽南
瀚博推出的 AI 推理芯片，性能超过英伟达最新的 A10 与 T4，同时使用成本还更低。
7 月 7 日，在上海举行的首场发布会上，芯片创业公司瀚博半导体展示了旗下最新产品，SV100 系列云端通用 AI 推理芯片和 VA1 通用 AI 推理加速卡。刚刚推出的芯片实现了业内领先的性能指标。

瀚博半导体 CEO 钱军在发布会上展示 SV102 芯片。
「我们要做的是服务器级别的芯片，SV100 系列是全方位超过英伟达同类产品的芯片解决方案。」瀚博半导体创始人、CEO 钱军在发布会上说道。
本次推出的产品包括芯片 SV102，以及基于该芯片的 AI 加速卡 VA1，即将在今年第四季度投入量产。
云端通用 AI 推理芯片
瀚博推出的 SV102 是 SV100 系列的首款芯片，它面向云端的 AI 的通用化推理任务，INT8 算力高达 200TOPS，其内含多颗瀚博自主设计的 IP 核，配备通用软件栈，对于云计算客户提供了完整的解决方案。
选择推理作为突破点，是瀚博对于市场和业内竞争力分析之后作出的决定。
随着 AI 应用的逐渐成熟，落地业务的增多，目前云服务市场上推理任务的需求逐渐超过训练。相关数据显示，2021 年 AI 推理市场已超过训练市场，未来其差距还会逐渐拉大。高通则认为到 2025 年将有 90% 的算力将被用于机器学习推理。
而在推理任务上，相对更加专精的 DSA 芯片性能显著超过目前业内普遍采用的 GPU，前者可能会成为芯片领域的下一个发展方向。