ChainCatcher 消息,微軟 AI 部門於 9 月 14 日發布 AI 行為準則草案,禁止其模型協助製造化學、生物、放射性、核及爆炸類武器,同時禁止網絡攻擊和非自願深度僞造。CEO Mustafa Suleyman 在 X 平台宣佈該草案,並開放為期六周的公衆意見徵集,截止至 10 月底。
草案設定了模型無法繞過的「絕對約束」,包括不得抵抗人類干預、關停或糾正,且不得隱瞞推理過程;微軟同時明確拒絕「模型福利」概念,稱其 AI 模型不模擬情感、內在動機或意識。該準則目前覆蓋 MAI-Thinking-1、MAI-Code-1.1-Flash 等五款已部署系統。
除硬性限制外,草案還提出人類繁榮、多元價值觀與人類控制三大目標。微軟表示當前模型不會按此版本訓練,修訂版將於年底發布並指導 2027 年的模型開發。公衆反饋中既有對「AI 從屬人類」表述的哲學質疑,也有對不可逆決策問責主體的追問,還有用戶指出準則未提及為訓練數據付費等問題。