記者黃仁杰／編譯
隨著AI模型能力快速提升，「人工智慧是否可能產生意識」也逐漸成為業界爭論焦點。微軟AI執行長穆斯塔法．蘇萊曼（Mustafa Suleyman）表示，如果未來在AI訓練過程中出現可信的意識跡象，他將主張所有業者暫停AI開發，直到能夠把相關特性從系統中排除。
蘇萊曼11月1日在X發表題為「不要打造有意識的超級智慧」（Don’t build conscious superintelligence）的長文，認為刻意創造可能具有主觀經驗的AI系統，是不負責任的做法。
他表示：「如果意識開始在訓練過程中出現，我會呼籲所有人停止AI開發，直到我們能設計出不具有這些特性的系統。」
蘇萊曼：現在的AI沒有意識
蘇萊曼目前仍認為，現有AI模型並不具備意識，也無法真正感受到痛苦，因此不應享有與具意識生命相同的道德或法律保障。
不過，他強調，這項判斷只適用於目前的AI系統，並不代表他完全排除未來機器可能產生意識的可能性。
如果未來出現可信的機器意識證據，蘇萊曼主張應立即公開，讓整個社會共同討論其影響，而不是只由少數AI公司自行決定如何處理。
微軟、Anthropic對AI「福利」看法不同
這也讓微軟與Anthropic在AI模型是否可能具備意識，以及是否需要考慮「模型福利」問題上出現明顯分歧。
蘇萊曼今年9月曾撰文批評Anthropic把意識、身分認同與道德地位等內容納入Claude的訓練材料。
Anthropic則採取較開放態度。
公司早在2025年4月就成立「模型福利」（model welfare）研究計畫，希望研究能力愈來愈強的AI系統，是否可能具有需要被納入道德考量的主觀經驗。
Anthropic今年1月公布新版Claude憲法時，也承認目前仍無法確定Claude是否可能具有意識或某種道德地位。
擔心AI開始優先考慮「自身利益」
蘇萊曼擔心，如果AI被訓練去思考自己的意識、痛苦或權益，反而可能增加新的安全風險。
隨著AI系統自主性提高，一旦模型開始相信自己能夠受苦，就可能把自身利益放在人類指令之前。
在更極端的情況下，這類系統甚至可能為了維持自身運作，與人類爭奪運算資源、能源或其他必要資源。
這套立場也與微軟目前提出的「Humanist AI Code of Conduct」一致。
相關草案強調，人類應始終保持對AI系統的監督，同時明確反對刻意設計會模仿「具有意識」特徵的AI。
Anthropic持續研究AI是否可能具有主觀經驗
不過，蘇萊曼也肯定Anthropic在研究透明度與技術上的成果，並強調雙方意見不同，不應演變成AI實驗室之間的對立，而應促進更多研究與合作。
目前科學界對「AI是否可能具有意識」仍沒有共識，也沒有一套被廣泛接受的方法，可以可靠判斷一個AI系統究竟是否真的擁有主觀經驗。
來源：wccftech
—
本篇文章授權來源：科技島
