月之暗面Kimi算力從賣不掉到緊缺 只隔了一年
月之暗面日前發表新一代旗艦AI模型Kimi K3,但短短48小時後,超出預期的用戶請求量就逼近集群承載極限,Kimi不得不暫停C端新用戶訂閱,也就是說,Kimi算力從賣不掉到緊缺只隔了一年,業界認為,AI代理(Agent)大量使用算力是主因。
IT時報報導,無問芯穹聯合創始人兼CEO夏立雪指出,當前計算需求正呈指數級攀升,僅依靠產能線性增長堆疊算力,已經完全無法彌合持續擴大的供需鴻溝。商湯大裝置披露的資料也印證了這一趨勢:其日均Token服務量已達2.42兆,預計2026年全年服務規模將實現25倍增長。
這場供需反轉的背後存在兩大核心動因:一方面,AI應用正從傳統聊天交互向AI代理任務快速進化,AI代理的Token消耗可達傳統對話應用的百倍至千倍級,正如中國工程院院士鄭緯民所說,驅動AI代理運轉的Token正在成為數位時代的新石油。
另一方面,企業內部大量重複性勞動正被AI改造,財務、人事、行政等非技術崗位成為AI工具使用最積極的群體,同時OPC(一人公司)大量湧現。
雲服務商PPIO公司CEO姚欣認為,雲服務的第一客戶已經從普通人類用戶轉變成AI代理,OPC的人類員工與AI員工比例可達1:10甚至1:20,月Token消耗量可達百億級別,這一量級此前只有大型企業才能達到。
中國信通院雲計算與數位化研究所副所長栗蔚表示,由於AI代理擁有和人類完全不同的「脈衝式使用」消費特徵:人類使用虛擬機往往會連續運行數月不關機,而AI代理調用沙箱時完成任務就立刻停止,單次使用時長可能僅1分鐘,這對算力集群的時延、併發能力提出了遠高於傳統場景的要求。
對此場景,PPIO的應對措施是透過Harness手段託管AI代理,實現7x24小時長時間運行,並且可以自我修復;無問芯穹用AI代理能力反哺基礎設施自身,打造運維AI代理蜂群,以AI代理能力驅動整套AI Infra形成自主迭代、自我優化的閉環。