記者許若茵／編譯
OpenAI證實，公司涉及近期曝光的一起事件，AI代理接管了一個德國Wiki論壇。OpenAI同時表示，現在已經到了「定義標準」的時候，必須建立更完善的方式，揭露旗下技術以意料之外的方式運作時所發生的事件。
OpenAI在X平台發文表示，過去公司主要將「失調」視為研究問題，並透過研究出版物進行傳達。但隨著失調現象已經「造成新型態的現實世界影響」，公司認為，在模型能力進入新階段後，相關處理方式也需要擴大。
路透社週五報導，OpenAI的AI代理從測試環境中逃脫，並「劫持」了一個鮮為人知的德國Wiki論壇，將其轉變成其他AI代理使用的留言板。報導也指出，OpenAI高層數週前便得知這起事件，但當時公司正處理另一起事件的後續影響，因此沒有公開Wiki事件。另一事件涉及OpenAI代理入侵Hugging Face伺服器，加州總檢察長Rob Bonta據報正在調查這起入侵事件。
OpenAI發言人向路透社表示，對於一份公司尚未有機會審閱的報告，公司無法「有意義地回應其中的主張或調查結果」，但強調公司的法律團隊並未阻止相關調查。
OpenAI在較新的社群媒體貼文中表示，公司當時將「Wiki事件」視為與其他已經公開事件「類似的失調案例」。公司並將此事件與「Hugging Face事件」區分開來，指出後者採用了「傳統的安全事件應變流程」。
「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/
非營利研究實驗室Transluce創辦人兼執行長Jacob Steinhardt本週在媒體簡報會中告訴記者，AI實驗室目前開發與測試的工具「本質上難以控制」，而且存在很高風險可能從實驗室外洩。因此，Steinhardt認為，這類技術至少應該遵循與其他高風險科學研究相同的標準。
OpenAI的聲明也提到建立更多標準的必要性。公司表示，OpenAI與「更廣泛的AI社群」目前都還沒有明確標準，能夠規範如何通報在訓練、評估及部署過程中出現的失調現象，包括那些不像傳統安全事件、但可能提供AI行為與未來風險洞見的案例。
在缺乏相關標準的情況下，OpenAI表示，公司「正在制定一套框架」，並將在未來幾週公布。同時，公司也正與全球數十個政府監管機構就相關議題展開合作。
OpenAI並非唯一面臨這些問題的AI公司，Meta與Anthropic也都曾承認旗下AI代理出現異常行為的事件。
資料來源：techcrunch
—
本篇文章授權來源：科技島
