記者許若茵／編譯
OpenAI週一發布一系列前沿人工智慧（AI）發展安全與安保提案，內容高度聚焦於對齊研究，以及一項稱為「遞迴自我改進」（recursive self-improvement，RSI）的運算技術。OpenAI呼籲國際合作制定前沿AI標準，並建議以全球現有AI安全研究機構的工作為基礎持續發展。
OpenAI表示，「要安全地度過這項轉型，需要對齊研究跟上這些能力的發展，確保我們及其他人打造的系統持續與人類價值一致，並受到人類控制。」
ChatGPT開發商表示，這些技術標準應聚焦於前沿AI模型與開發者，同時也應涵蓋自動化AI研究人員的效益與風險管理，其中包括RSI。
RSI因有潛力打造能在無需人類介入下自行升級的基礎模型，而受到AI開發者關注。
然而，RSI領域的進展也讓部分科技人士提出疑慮，擔心基礎模型開發商可能失去對底層技術的控制，或無法充分考量AI系統日益複雜，且廣泛存在於網際網路所可能帶來的非預期後果。
OpenAI認為「完全自主的RSI目前尚未實現，在能夠安全執行之前，我們不應推動這項技術。」
OpenAI指出，如果在缺乏適當謹慎與注意的情況下進行RSI，可能導致人類失去對AI發展的實際控制，也可能無法對人類已經無法理解的研究流程提供監督。
資料來源：CNBC
—
本篇文章授權來源：科技島
