东说念主工智能平台Clarifai（Clarifai）于周四文书推出一款新式推理引擎。该公司称，这款引擎能让东说念主工智能模子的开动速率升迁一倍，同期老本裁减 40%。该系统联想上可适配多种模子及云主机，通过一系列优化技能，在调换硬件条目下开释更强的推明智商。

　　“咱们秉承了多种不同类型的优化技能，从底层的 CUDA 内核优化，到先进的投契性解码技能，方方面面王人有遮掩，” Clarifai首席履行官马修・蔡勒（Matthew Zeiler）暗意，“践诺上，即是能让同款显卡发达更大性能。”

　　第三方公司 Artificial Analysis 通过一系列基准测锻真金不怕火证了上述遵守，测试数据泄漏，该推理引擎在吞吐量和延长两阵势标上均创下行业最好记载。

　　该推理引擎的优化重点聚焦于 “推理阶段”—— 即开动已完成教练的东说念主工智能模子时所需的缱绻历程。跟着智能体模子（agentic model）和推理模子的兴起，这一阶段的缱绻负载变得尤为隐隐：这类模子仅反应一个提醒就需履行多步运算。

　　Clarifai启航点以缱绻机视觉管事起家，跟着东说念主工智能高潮大幅推高对图形惩处器（GPU）及承载 GPU 的数据中心的需求，该公司慢慢将重点转向缱绻编排范围。前年 12 月，Clarifai在亚马逊云科技（AWS）re：Invent 大会上初次公布了其缱绻平台，而这次推出的新推理引擎，是该公司首款故意针对多次第智能体模子打造的家具。

　　这款家具推出之际，东说念主工智能基础设施范围正靠近庞大压力，这一压力也催生了一系列价值数十亿好意思元的来回。举例，OpenAI 已制定规划，拟参预高达 1 万亿好意思元用于新建数据中心，其酌量曩昔对缱绻资源的需求真实是无穷的。不外，尽管刻下硬件树立力度庞大，Clarifai首席履行官仍以为，在优化现存基础设施方面，还有更多职责可作念。

　　“像Clarifai推理引擎这么的软件技能，不错让优秀模子的性能更进一步，” 蔡勒暗意，“此外，算法矫正也有助于缓解对千兆瓦级数据中心的需求。而况我以为，算法立异尚未达到止境。”

海量资讯、精确解读，尽在新浪财经APP

背负裁剪：郭明煜 体育游戏app平台