科技

【科技小辭典】AI怎麼跑起來的?從GPU到資料中心 一篇看懂背後科技

記者黃仁杰/綜合報導

當你打開ChatGPT輸入一句問題,看起來只是簡單的對話,但背後其實是一整套龐大的科技系統正在同步運作。從AI晶片、記憶體到資料中心,人工智慧之所以能快速回答問題,靠的並不只是「一個程式」,而是一整條高效能運算鏈。

當你打開ChatGPT輸入一句問題,看起來只是簡單的對話,但背後其實是一整套龐大的科技系統正在同步運作。(圖/AI生成)

首先,AI運作最核心的關鍵之一,就是GPU。GPU原本是為遊戲與影像運算設計,但因為具備大量平行運算能力,非常適合處理AI模型需要的大規模矩陣計算,因此逐漸成為生成式AI的核心硬體。目前包括NVIDIA等廠商的GPU,已成為全球AI產業最搶手的關鍵資源。

不過,光有GPU還不夠。AI模型在運作時,需要同時讀取與傳輸大量資料,因此還必須搭配高頻寬記憶體HBM。這類記憶體能比傳統DRAM更快速地傳送資料,避免AI晶片「空等資料」,影響運算效率。這也是為何近年HBM需求暴增,甚至帶動整體記憶體市場價格上升。

「AI履歷健檢」看見自己優勢:https://campaign.1111.com.tw/resume-review/

更多科技工作請上科技專區:https://techplus.1111.com.tw/

接著,這些晶片並不是放在一般電腦裡,而是集中部署於大型資料中心。資料中心可以想像成「超大型AI工廠」,內部擺滿大量伺服器與AI晶片,全天候處理全球用戶的需求。當越來越多人使用AI服務,背後就需要更多資料中心與更高電力供應支撐。

也因此,AI發展不只是軟體競爭,更牽涉半導體、記憶體、散熱、電力與網路等整體產業鏈。從台積電的先進製程,到SK海力士與三星的HBM,再到Google與Microsoft持續擴建資料中心,全球科技巨頭其實都在爭奪同一件事:算力。

所謂算力,簡單來說,就是AI處理資料與運算的能力。AI模型越大、功能越複雜,需要的算力就越高。這也是為何近年AI產業持續投入巨額資金建置硬體基礎設施。當AI逐漸成為日常工具,背後支撐它的晶片、記憶體與資料中心,也正成為全球科技競爭的新核心。

Loading

本篇文章授權來源:科技島

Author

Write A Comment