記者許若茵/編譯
Anthropic周四正式登陸華爾街,創下史上最大規模IPO紀錄。執行長Dario Amodei在納斯達克開盤敲鐘前發表演說,再次強調公司致力於負責任地開發人工智慧(AI),並承諾不會屈服於商業或政治壓力,確保AI持續在人類掌控之下。

Amodei照著印好的講稿發表演說,首先談及Anthropic創立初衷,希望打造強大的科技協助人類。他表示,這個理念源自父親因疾病離世的經歷,而該疾病在幾年後已成為可治療的疾病。
Amodei指出,人類智慧已讓瘟疫、天花及小兒麻痺症等疾病在世界大部分地區成為歷史,但目前仍有太少科學家、太有限的時間,難以在其他疾病研究領域取得進展。他認為,AI能與人類協同合作,進一步推動醫學發展。
Amodei在演說中以AI可能拯救生命的應用開場,凸顯其對技術快速發展風險的持續關注。去年9月,他曾提出AI發展應適度控制步調的計畫,包括與其他領先企業協調安全標準,以及引入第三方機構評估人員,確認企業是否遵守安全承諾。
OpenAI執行長Sam Altman、Google DeepMind負責人Demis Hassabis及xAI所有者Elon Musk均表示認同Amodei的立場,但目前仍少有具體承諾。
Amodei在周四演說中再次強調,AI技術進步與安全保障必須並行。他提及AI落入不法人士手中,包括個人或國家層級行為者,可能帶來的「真實風險」,以及經濟衝擊和失去AI系統控制權等潛在問題。
他指出,Anthropic認為這些風險可以透過適當防護措施避免,公司將持續投入AI對齊、測試,以及開發新的方法理解AI行為,確保系統維持在人類掌控之下。
Amodei表示,「仍有許多工作尚待完成,而最艱難的安全工作還在前方。讓我們得以打造最具能力AI系統的公司人才,未來需要更加投入,甚至加倍、三倍確認這些AI系統是安全的,並持續維持在人類掌控之下。」
他最後強調,公司將調整AI系統訓練與部署的步調,必要時花費足夠時間,直到確信系統安全且能持續受到人類控制。
Anthropic共同創辦人、Amodei的妹妹Daniela Amodei周四接受CNBC訪問時,也呼應相關立場。她表示,AI風險確實存在,但其發展潛力同樣令人驚嘆。
Daniela Amodei指出,Anthropic創立的初衷就是降低這些風險,並認為公司至今已在相關工作上取得相當成果,但未來仍有更多工作需要完成,團隊對AI安全的承諾依然堅定。
資料來源:techcrunch
—
本篇文章授權來源:科技島