記者許若茵／編譯
AI正在改寫世界，同時也創造出一套全新的語言，用來描述這項技術如何改變世界。AI相關詞彙發展速度之快，即使是科技產業中的專業人士，也可能感到有些跟不上，外媒《techcrunch》〞整理出目前最常見的AI術語：
AGI
人工通用智慧（Artificial Genera lIntelligence，AGI）是一個沒有明確定義的術語，但通常指在許多甚至大多數任務上，能力超越一般人類的AI。
OpenAI執行長Sam Altman曾將AGI形容為「你可以聘來當同事的中位數人類」。OpenAI的章程則將AGI定義為「高度自主、在大多數具經濟價值的工作上超越人類的系統」。
Google DeepMind的理解略有不同，該實驗室認為AGI是「至少在人類大多數認知任務上具備同等能力的AI」。
如果感到困惑，不必擔心，就連站在AI研究最前線的專家對於這項定義也沒有完全一致的看法。
AI代理
AI代理是指利用AI技術代表使用者執行一系列任務的工具，其能力超越一般AI聊天機器人，例如申報費用、預訂機票或餐廳，甚至撰寫與維護程式碼。
不過，這個新興領域仍有許多不同環節正在發展，因此不同人對「AI代理」的理解可能有所不同。目前相關基礎設施也仍在建構，以實現預期中的能力。
基本概念是，一套能夠自主運作的系統，可能利用多個AI系統完成多步驟任務。
API端點
可以把API端點想成軟體背面的「按鈕」，其他程式可以透過這些按鈕要求軟體執行特定功能。
開發者利用這些介面建立整合功能，例如讓一個應用程式從另一個應用程式取得資料，或讓AI代理直接控制第三方服務，而不需要人類手動操作每個介面。
大多數智慧家庭設備與連網平台都有這些隱藏的按鈕，即使一般使用者從未看見或操作它們。隨著AI代理能力提升，它們也越來越能自行尋找與使用這些端點，為自動化帶來強大甚至出乎意料的可能性。
「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
程式編碼代理
程式編碼代理是比「AI代理」更具體的概念，指能夠自行採取逐步行動完成目標的程式，並專門應用於軟體開發。
與只提供程式碼建議、再由人類檢查並貼上的工具不同，程式編碼代理能夠自主撰寫、測試及除錯程式碼，處理開發者日常工作中通常需要反覆嘗試的流程。
這些代理能夠在整個程式碼庫中運作，尋找錯誤、執行測試並在極少人為監督下推送修正。可以把它想成一名速度非常快、不會睡覺且始終保持專注的實習生，但就像任何實習生一樣，人類仍需要檢查其工作。
運算能力
Compute是一個具有多重含義的詞，但通常指讓AI模型運作所需的重要計算能力。
這類處理能力支撐AI產業，使其能夠訓練與部署強大的模型。這個詞也經常用來概括提供計算能力的硬體，包括GPU、CPU、TPU及構成現代AI產業基礎的其他基礎設施。
深度學習
深度學習是自我改進式機器學習的一個子領域，其AI演算法採用多層人工神經網路結構。這讓它能夠建立比線性模型或決策樹等較簡單機器學習系統更複雜的關聯。
深度學習演算法的結構受到人類大腦神經元互相連結路徑的啟發。
深度學習AI模型可以自行辨識資料中的重要特徵，而不需要人類工程師事先定義這些特徵。這種結構也讓演算法能夠從錯誤中學習，透過反覆調整改善輸出。
不過，深度學習系統通常需要大量資料才能產生良好結果，可能達到數百萬筆以上。同時，與較簡單的機器學習演算法相比，訓練時間通常更長，因此開發成本也往往更高。
更多科技工作請上科技專區：https://techplus.1111.com.tw/
蒸餾
蒸餾是一種利用「教師－學生」模型，從大型AI模型中提取知識的技術。
開發者向教師模型提出請求並記錄輸出，有時也會將答案與資料集比較，以確認準確度。這些輸出接著用於訓練學生模型，使其學習近似教師模型的行為。
透過蒸餾，可以在最小化蒸餾損失的情況下，建立以大型模型為基礎、規模更小且效率更高的模型。這很可能也是OpenAI開發GPT-4Turbo這類GPT-4更快速版本的方式。
所有AI公司都會在內部使用蒸餾技術，但部分AI公司也可能利用這項技術追趕前沿模型。從競爭對手模型進行蒸餾，通常會違反AIAPI與聊天助理的服務條款。
幻覺
幻覺是AI產業用來描述AI模型「捏造內容」的術語，也就是生成錯誤資訊。
這顯然是AI品質的一大問題。幻覺可能產生具有誤導性的生成式AI輸出，甚至造成現實世界風險，例如使用者詢問健康問題時，AI可能提供有害的醫療建議。
AI捏造資訊被認為可能源自訓練資料中的缺口。幻覺問題也促使業界更加重視專業化或垂直AI模型，也就是針對特定領域打造的AI，以降低知識缺口及錯誤資訊風險。
推論
推論是執行AI模型的過程，也就是讓模型根據先前看過的資料進行預測或得出結論。
需要注意的是，沒有訓練就無法進行推論。模型必須先從資料中學習模式，才能有效將這些模式延伸到新的資料。
許多不同類型的硬體都能執行推論，從智慧型手機處理器、高效能GPU到客製化AI加速器都有可能。不過，它們執行模型的效率並不相同。非常大型的模型如果在筆電上進行預測，可能需要很長時間；相較之下，配備高階AI晶片的雲端伺服器則能更快完成。
大型語言模型
大型語言模型（LargeLanguageModel，LLM）是ChatGPT、Claude、GoogleGemini、MetaAI、Llama、MicrosoftCopilot及Mistral的LeChat等熱門AI助理所使用的AI模型。
當使用者與AI助理聊天時，實際上是在與大型語言模型互動。模型可以直接處理請求，也能搭配網頁瀏覽或程式碼解譯器等不同工具。
LLM是由數十億個數值參數或權重構成的深度神經網路，學習單字與詞組之間的關係，建立語言的表示方式，可以理解成一張多維度的文字地圖。
這些模型透過編碼數十億本書籍、文章與逐字稿中的模式建立。當使用者向LLM輸入提示詞時，模型會產生最符合該提示詞的可能模式。
記憶體快取
記憶體快取是一項能提升推論效率的重要技術。簡單來說，快取是一種最佳化方式，可以讓AI產生回答時更加有效率。
AI需要進行大量數學運算，每次運算都會消耗更多能源。快取的目的，就是儲存特定計算結果，讓模型未來面對類似使用者請求或操作時不必重新進行所有計算。
記憶體快取有不同種類，其中較知名的是KV快取。KV快取可應用於Transformer模型，透過減少產生答案所需的時間與演算法運算量，提高效率並加快回應速度。
Opaque Recurrence
Opaque Recurrence指AI模型反覆將相同查詢送入內部層，而不是以人類可理解的語言逐步進行推理。
這種方式效率更高，可以讓規模較小的模型以較少運算資源取得超出自身規模的表現，但與一般思維鏈，也就是使用者要求聊天機器人協助時看到的連續推理說明相比，它留下的可讀痕跡少得多。
這讓AI安全研究人員感到擔憂，因為相關紀錄是偵測模型不當行為的重要工具，而這種技術可能讓模型的內部運作更難被觀察。
開放原始碼
開放原始碼指軟體，或越來越多的AI模型，其底層程式碼公開提供任何人使用、檢查或修改。
在AI領域，Meta的Llama系列模型是知名案例；在作業系統領域，Linux則是著名的歷史案例。
開放原始碼讓全球研究人員、開發者與企業可以建立在彼此工作之上，加速進展，也能進行獨立安全稽核，而封閉系統通常難以做到這一點。
封閉原始碼則代表程式碼並不公開，使用者可以使用產品，但無法了解其運作方式，OpenAI的GPT模型就是一例。開放與封閉原始碼之間的差異，已成為AI產業最重要的爭論之一。
Token
在人類與機器溝通時存在明顯挑戰：人類使用自然語言溝通，而AI程式則透過由資料驅動的複雜演算法執行任務。
Token便是連接兩者的基本單位，是大型語言模型處理或產生資料時使用的離散資料片段。
Token透過Tokenization建立，也就是將原始文字拆分成語言模型可以消化的小單位，有點類似編譯器將人類語言轉換成電腦可以理解的二進位程式碼。
在企業環境中，Token也決定成本。多數AI公司按照LLM使用的Token數量收費，因此企業使用越多，支付的費用也越高。
權重
權重是AI訓練的核心，決定資料中不同特徵或輸入變數的重要程度，進而影響AI模型的輸出。
換句話說，權重是定義資料集中哪些因素對特定訓練任務最重要的數值參數。它們透過對輸入進行乘法運算發揮作用。
模型訓練通常從隨機分配的權重開始，但隨著訓練進行，權重會不斷調整，讓輸出結果逐漸更接近目標。
例如，一個利用特定地區歷史房地產資料訓練的房價預測AI模型，可以為臥室數量、浴室數量、獨立式或半獨立式住宅、停車位及車庫等特徵設定不同權重。
最終，模型賦予各項輸入的權重，會反映這些因素根據訓練資料對房產價值產生多大影響。
資料來源：techcrunch
—
本篇文章授權來源：科技島
