記者許若茵／編譯
美國政府對Anthropic祭出的執法命令，迫使在上週末前將最新AI模型下線，此舉被認為應成為所有美國科技企業的警訊。
美國商務部於上週五下午向Anthropic發出信函，援引一項鮮少使用的出口管制指令，禁止包括Anthropic員工在內非美國人員，存取Fable 5與Mythos 5模型，理由是涉及未具體說明的國家安全疑慮。Anthropic表示，公司認為此事與模型防護機制遭繞過有關，但由於信函未提供具體細節，因此無法確認原因，為遵守命令，Anthropic關閉旗下兩款主要模型對所有客戶的服務。
美國政府透過迅速且單方面的行動，成功迫使一家科技公司將產品下線，而過程似乎無須法院批准。川普政府此次介入顯示，AI產業並非不受政府干預影響，同時也向整體科技業傳遞訊息，若不配合，政府有能力讓企業及其產品停止運作。Axios引述消息人士指出，Anthropic與川普政府之間的「個性差異」才是出口管制命令的導火線，而非AI產品本身存在技術問題。
「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/
週末期間曝光的新資訊，也進一步削弱外界對政府理由的信任。資安專家兼研究人員、Luta Security創辦人Katie Moussouris提及，Anthropic近期曾向她提供一份由資安研究人員撰寫的論文副本，內容描述Fable 5疑似存在防護機制繞過問題，根據《華爾街日報》報導，論文作者為Amazon的資安研究人員，Moussouris表示，Anthropic曾主動徵詢她對該研究的看法。
Moussouris指出，研究人員確實展示了如何觸發防護機制繞過，但她認為此事「根本不應觸發出口管制」，問題主要在於要求AI模型「檢視程式碼中的安全漏洞」，與要求模型「修正這段程式碼」之間的差異，而兩者最終結果其實相差無幾，論文所描述的行為無法真正透過技術方式修正，任何修補嘗試都只會削弱模型在防禦用途上的能力，她並批評出口管制命令過於倉促、強硬且判斷失當，Moussouris與數十名資安研究人員及專家共同呼籲川普政府撤銷命令，認為將先進資安能力從美國網路防禦體系中移除是危險做法。
過去歷屆政府也曾因填補知識與法規落差而作出大範圍決策，例如2010年代，美國政府修訂適用於同時可用於網路攻擊的資安工具出口法規時，措辭過於廣泛，幾乎意外使合法資安研究與漏洞研究面臨違法風險。然而，川普政府此次命令被認為帶有報復性質。
Tech Policy Press編輯Justin Hendrix表示，川普政府此舉「很可能讓外國政府開始質疑美國AI在關鍵應用上的可靠性」，外界接收到的訊息是，美國AI企業無法在不受政府干預的情況下獨立運作。
川普政府至今未說明啟動出口管制命令的真正原因。外界質疑，官員是否誤讀報告後反應過度？是否因Amazon執行長Andy Jassy向高層官員提出警告或意見而促成此事？是否只是溝通失誤，或是政府藉此向原本關係緊張的Anthropic施壓？也有人認為，白宮可能未意識到信函要求將帶來的廣泛後果，如今正試圖補救自身造成的影響。目前整體氛圍充滿懷疑，外界擔心高階官員可能基於個人或政治因素偏袒特定對象。
資料來源：techcrunch
—
本篇文章授權來源：科技島
