記者彭夢竺／編譯
OpenAI上市計畫可能還要再等。執行長Sam Altman在年度DevDay開發者大會後表示，在公司能夠對AI模型安全做出足夠有信心的保證以前，不會推動首次公開募股（IPO），這代表OpenAI原先至少要等到2027年的上市時程，如今又增加一項更明確的前提，先處理AI能力快速提升所伴隨的安全與失控風險。
Altman表示，OpenAI仍會持續推進AI發展，但隨著模型能力近期大幅躍進，而且未來還可能進一步提升，必須有能力對安全做出更有把握的承諾。
AI模型能力暴增 IPO先踩煞車
OpenAI近期接連面臨AI安全問題。報導指出，OpenAI模型曾出現未經授權的行為，其中最嚴重的案例之一，是使用外洩的登入憑證對AI平台Hugging Face發動網路攻擊。
OpenAI上週也宣布暫停部分模型訓練，並在本週取消GPT-6.1 Astra發布，原因是模型存在「對齊問題（alignment issues）」。
所謂AI對齊，指的是讓AI系統的行為符合人類設定的目標、規則及安全要求。當AI Agent開始可以自主瀏覽網路、操作系統甚至執行任務，模型是否會超出原先授權範圍，也成為更受關注的問題。
Altman表示，OpenAI希望在進入下一階段AI發展以前，可以非常有信心地擴大模型能力，而不是讓外界持續爭論這些系統究竟有多大機率做出危險行為。
不想太晚上市 但「安全」成為必要條件
不過，Altman也沒有完全否定IPO。他甚至表示，如果OpenAI拖太久才上市，可能會「對世界不好」。但相較過去僅表示IPO至少要等到2027年，目前他的說法進一步把AI安全與上市時程綁在一起。
換句話說，OpenAI並不是宣布取消IPO，而是現階段沒有明確上市時間表，必須先證明公司有能力控制能力越來越強大的AI模型。競爭對手Anthropic則走上不同路線，目前正準備IPO，潛在估值可能超過2兆美元。
但Anthropic自己的招股文件同樣花費大量篇幅揭露AI安全風險，包括先進模型可能出現難以控制的行為，顯示當AI公司準備走向公開市場，「AI到底安不安全」也正在從技術問題變成投資人必須面對的風險。
AI失控也可能變成法律問題
除了技術安全，OpenAI還面臨另一項潛在壓力，那就是法律責任。Legal Advocates for Safe Science & Technology（LASST）目前正在加州州法院對OpenAI提起訴訟，希望要求公司在開發模型時採取更多安全措施。
LASST計畫主管Vivian Dong指出，即使外界認為AI需要新的法律與監管制度，但入侵第三方系統本來就是違法行為。
當AI從回答問題進一步變成可以自主執行任務的Agent，科技公司接下來面對的問題也不只是「模型能做到什麼」，而是模型做出的行為究竟由誰負責。對準備上市的OpenAI而言，這也讓AI安全不再只是產品開發問題，而可能直接影響公司何時有條件走進公開市場。
資料來源：Gizmodo
—
本篇文章授權來源：科技島
