徐達勇 AI新模型 智慧升級

針對今年與未來的技術趨勢,在晶片發展與AI這兩大面向,安謀(Arm)應用工程總監徐達勇表示,要重新思考晶片設計,小晶片將成為解決方案的重要部分。同時,在這波AI浪潮中,包括邊緣AI、多模態AI,以及AI代理、AI個人化等,都是可預期將持續發展的方向。
晶片設計 突破傳統
在晶片部分,徐達勇認為,從成本和物理學角度來看,傳統的晶片設計定案(tape-out)變得愈來愈困難。產業需要重新思考晶片的設計,突破以往傳統的方法。例如人們逐漸意識到,並非所有功能都需要整合在單一晶片上,隨著晶圓製造廠及封裝廠探索新途徑以突破摩爾定律極限,小晶片等新方法便開始嶄露頭角。
徐達勇提到,小晶片技術已能有效地應對特定市場需求和挑戰,並預計在未來幾年持續發展。
在車用市場,小晶片可幫助企業在晶片開發過程中實現車規級認證,同時透過運用不同運算元件,展現擴大晶片解決方案的規模並實現差異化,例如, 專注於運算的小晶片具有不同數量的核心,而專注於記憶體的小晶片則具有不同大小和類型的記憶體。透過系統整合商,可對這些不同的小晶片進行組合和封裝,企業得以開發出更多高度差異化的產品。
徐達勇也強調,在單獨的單一晶片上持續追求更多電晶體、更高效能和更低功耗的做法已難以為繼。半導體產業需要重新思考和校準摩爾定律及其對產業的意義。其中之一,就是在晶片設計過程中,不再僅將效能視為關鍵指標,而是將每瓦效能、單位面積效能、單位功耗效能和總擁有成本當作核心指標。
同時,安謀指出,隨著整合不同運算元件的小晶片出現,標準化變得空前重要,它將使來自不同供應商的不同硬體能無縫地協同工作。Arm到目前為止已攜手50多家技術合作夥伴一起開發Arm小晶片系統架構,隨著更多合作夥伴的加入,將共同推動小晶片市場的標準化進程。
至於AI相關發展,徐達勇表示,AI推論工作負載將繼續增加,這將有助於確保AI的廣泛應用和持久普及。這個趨勢的發展受惠於具備AI功能的裝置和服務數量增加。事實上,大部分日常AI推論,如文本生成和摘要,都能在智慧手機和筆電上完成,為使用者提供更快速、更安全的AI體驗。為了支援這項成長,此類裝置需要搭載能實現更快的處理速度、更低的延遲和高效率電源管理的技術。而Armv9架構的SVE2和SME2兩大關鍵特性,一起運行於 Arm CPU,使其能夠快速而高效率地執行AI工作負載。
徐達勇提到,從去年時就看到愈來愈多的AI工作負載在邊緣運行,而不是在大型資料中心進行處理。這種轉變不僅能為企業節省電力和成本,還能為消費者帶來隱私和資安方面的保障。
先進AI架構 多元發展
到了2025年,安謀認為很可能會看到先進的混合AI架構,這些架構能夠將AI任務在邊緣裝置和雲端之間進行有效分配。在這些系統中,邊緣裝置上的AI演算法會先識別出重要的事件,然後雲端模型介入提供額外的資訊支援。決定在本地還是雲端執行AI工作負載,將取決於可用電源、對延遲的要求、隱私顧慮及運算複雜性等因素。
邊緣AI工作負載代表著AI去中心化的趨勢,使裝置能在資料來源附近實現更智慧、更快速且更安全的處理,這對於需要更高效能和因應在地決策的應用市場,如工業物聯網和智慧城市來說尤其關鍵。
另外,徐達勇指出,也開始看到包含文本、圖像、音訊、感測器資料等多種訊息的多模態AI模型出現。這些多模態模型將透過能聽到聲音的音訊模型、能看到的視訊模型、以及能理解人與人之間、人與物體之間關係的互動模型,來執行更複雜的AI任務。這將賦予AI感知世界的能力,就像人類一樣,能聽、能看、能體驗。
再者,如今使用者與AI互動時,通常是與單一的AI進行互動,這個AI會盡可能獨立完成使用者要求的任務。然後,透過AI代理,在使用者指定需要完成的任務時,這個AI代理會將任務委託給由眾多AI代理或AI機器人組成的網路。
目前客服支援和程式設計輔助等產業已開始使用AI代理。隨著AI的互聯性和智慧程度不斷提高,預計在未來一年,AI代理將在更多產業快速發展,為下一個階段的AI革命奠定基礎,使人們的生活和工作變得更有效率。
在AI的推動下,安謀評估,裝置上將湧現更強大且個別化的應用,例如更智慧、更直觀的個人助理,甚至私人醫生。應用功能將從簡單地回應使用者請求,轉變為根據使用者及其所處環境主動提供建議,實現AI的個人化。這將導致資料的使用、處理和儲存數量呈現指數級成長,因此業界和政府需要採取更嚴格的安全措施,並提供監管指導。
FB留言