瀚博首款AI推理芯片出炉，性能超越英伟达T4，年内即将量产(3)

如果以整体运行成本 TCO 的方式来计算，采用 VA1 的服务器整机算力可以达到 T4 设备的 2.5 倍以上，功耗却相对更低，可以节省超过 60% 的服务器成本。

除了硬件产品外，瀚博也搭建了自己的 VastStream 软件平台，支持 TensorFlow、PyTorch、Caffe2 等主流深度学习框架模型。
今年 6 月，SV100 系列芯片宣布测试成功。瀚博创造的几个数字引人关注：在开始测试后 8 分钟全部点亮，在 40 小时之内，芯片所有功能模块基础测试全部完成。对于全新设计的高端芯片来说，这是一个奇迹。
「我们与重要合作伙伴快手的合作非常紧密。打造芯片必须理解客户的实际需求，我们打造了高性能的数据中心，会把最新的板卡插在服务器里，跑各类实际应用，验证产品的性能。」钱军表示。据介绍，目前已有多家国内外科技公司正在和瀚博合作，并等待芯片的大规模量产。

除了 SV102 以外，瀚博半导体还计划推出功率为 15W 和 150W 的推理产品，覆盖更多市场。
「我们不是一个国产替代的故事，我们希望打造国际级别的产品。为了这样的目的，我们组建了有能力的团队。」钱军说道。
瀚博半导体于 2018 年底成立于上海，目前在北京、深圳、多伦多等地均设有研发中心。
这家公司的核心团队源自于 AMD，部分成员曾设计了业界首款 7nm 制程 GPU。自公司创立起，瀚博一直致力于核心 IP 的自主研发，至今已完成多个 IP、高端设计流程，并拥有完善的数据中心构建能力。目前，瀚博的员工总数已超过 200 人。