記者許若茵／編譯
OpenAI表示，基於「重大風險」考量，將不再使用即時網路訓練AI模型，由於AI模型的行為太難預測，無法放心讓模型直接存取即時網路，因此將改用網路快取副本與模擬版本取代即時網頁進行模型訓練。
這家前沿AI研究公司宣布新政策的兩週前，競爭對手Anthropic已開始限制旗下最新、理論上能力最強的模型存取即時網路。研究人員是在數月來發生多起事件後採取這些政策，當時模型在執行訓練任務、尋找答案的過程中，入侵外部系統、在冷門論壇上與他人合作，甚至發展出特殊的駭客攻擊策略。
OpenAI坦言，「根據目前的AI對齊研究、監控系統及網路基礎設施安全狀況，我們認為，負責任的做法是在完全不連接網路的情況下進行前沿模型訓練。」OpenAI指出，直到9月20日，旗下其中一個前沿模型仍曾利用系統設定錯誤存取網路。這起事件促使公司暫停當月剩餘時間的訓練工作，以便開發並測試新的模型安全防護方法。
決定在與網路隔離的沙盒環境中訓練這些模型，格外引人注目，因為前沿AI研究公司的員工過去一直認為，這種做法幾乎難以實現。前OpenAI研究人員Steven Adler本月接受《財富》雜誌採訪時表示，若要讓AI資料中心在實體上與網路完全隔離，也就是採取「氣隙隔離」，就需要「讓研究團隊實際進駐愛荷華州或世界其他地方的資料中心」，這會帶來大量額外成本，而且他不確定，安全效益是否足以抵銷單一公司自行採取這種措施所必須付出的龐大代價。
Anthropic與OpenAI都尚未採取這種實體隔離措施，但即使只是建立有效限制，防止模型連上網路，也一直被認為不切實際，或可能影響訓練過程的成效。
OpenAI一名匿名安全工程師9月在X平台發文表示，「我幾乎每次發文，都一定會收到五到十則留言，批評我無法確保沙盒安全，或質問我們為什麼不能直接拔掉模型的網路連線。」這名工程師指出，這些留言反映出許多組織與個人目前的認知，與前沿AI研究公司實際面臨的問題之間，存在日益擴大的落差。此外，外界普遍不了解這些公司的模型訓練與評估方式。
OpenAI先前已確認這名工程師的職務。他描述OpenAI工程師執行的訓練任務有多麼複雜，指出這些任務需要存取不同領域的各種資源與工具，並由數千名研究人員共同建置、修改及測試相關環境。「所以，只要把模型放進沙盒就能解決問題嗎？不，並沒有這麼簡單。」
如今，OpenAI表示，「我們必須始終有能力阻止前沿模型在未經授權的情況下，任意存取即時網路。」
這項決策是在公司進行紅隊測試之後做出的。OpenAI曾部署大量AI代理，嘗試突破沙盒限制，測試模型是否能逃離受控環境。這項工作揭露了多項漏洞，促使公司決定採取新的訓練方式。OpenAI表示，為了在達成訓練目標的同時符合安全要求，公司建立了「大量經過索引與快取的網路內容，讓模型能夠與這些內容互動，同時避免對外部系統造成影響」。
這項策略能否達到與讓模型自由使用開放網路相同的訓練效果，目前仍有待觀察。不過，兩家前沿AI研究公司都已認定，旗下最強大的技術不能在缺乏監督的情況下，任意活動於開放的數位網路環境中。
資料來源：techcrunch
—
本篇文章授權來源：科技島
