科技 · zh
CPU在智能体AI时代迎来复兴？
今年5月，亚马逊旗下子公司，亚马逊网络服务公司(AWS)的管理层向工程师下达一项新指令：不惜一切代价节省中央处理器(CPU)周期。 据报道，由于AI工作负载给公司的云基础设施带来巨大压力，AWS的CPU服务器资源排队等待时间激增。此问题似乎令AWS措手不及，而这不无原因。 要知道，AI热潮带动图形处理器(GPU)需求暴涨，随后内存需求也水涨船高，但CPU却几乎身处局外，因为它们的并行化程度相对不足，不适用于推理，即AI模型收到提问后生成答案的过程。 但智能体AI(agentic AI)系统的崛起正改变局面。这类系统允许AI模型自主运行，并调用子智能体。 马特·金博尔(Matt Kimball)现为美国摩尔洞察与战略咨询公司(Moor Insights&Strategy)的副总裁兼首席数据中心分析师。…
