亞馬遜將採用新創晶片

亞馬遜公司計劃採用新創公司Cerebras Systems供應的晶片支援推論功能,搭配自家的Trainium處理器,宣稱這種組合執行人工智慧(AI)軟體的效能更佳。

彭博資訊報導,亞馬遜旗下雲端服務部門AWS將從2026下半年起,開始提供以這種組合爲基礎的服務。AWS是最大的雲端運算服務供應商。

這樁合作關係反映AI雲端基礎設施需求大,業者於是努力滿足需求。AWS副總裁巴哈拉說,雙方爲這項合作計劃已籌備數年,AWS將視用戶需求,部署儘可能多的晶片。

對正準備首次發行股票(IPO)的Cerebras而言,獲得亞馬遜這個客戶,有助提高市場能見度。AWS是率先承諾採用Cerebras晶片的超大規模雲端業者,即大型資料中心營運商。

這兩家公司的晶片將用於所謂的「推論運算」,執行AI軟體並針對提問產生答覆的過程。亞馬遜的Trainium 3矽晶片將用在「預填」(prefill)階段,意指理解使用者輸入的提示。然後由Cerebras的Wafer Scale Engine接手,併產生答案。

這種所謂「分解式工作」(disaggregated work)的安排很獨特,通常有個缺點:不同元件在執行過程中的溝通速度會放慢。就這個用例而論,AWS和Cerebras的目標是採用處理推論任務反應靈敏的專門晶片,藉此取得優勢。