人工智能公司Anthropic在週五晚間突然採取了一項重大行動:完全關閉了其最新發布的Fable 5和Mythos 5模型的訪問權限。這一決定距離這兩款模型高調亮相僅過去數日,令業界和用戶頗感意外。
事件的直接導火索是美國商務部在週五傍晚發出的一項指令。該指令將Fable 5和Mythos 5模型納入出口管制範圍,嚴格限制其在美國境外的任何使用。面對這一突如其來的政府命令,Anthropic在當晚發佈的公告中表示,為確保立即合規,公司別無選擇,只能“為所有客戶緊急禁用Fable 5和Mythos 5”。公告同時強調,Anthropic旗下的其他模型服務不受此次調整的影響。
據Axios援引一位政府官員的消息報道,美國政府做出這一決定的核心關切,在於一份關於Fable 5模型存在“越獄”漏洞的報告。該漏洞據稱能夠繞過模型內置的、基於廣泛分類器的安全防護機制。這些防護機制原本旨在阻止Fable 5處理涉及網絡安全、化學和生物學等敏感領域的提示詞。政府擔憂,一旦此類漏洞被惡意利用,可能對國家安全構成實質性威脅。
報道進一步指出,美國政府已請求暫停發佈這些模型,以便為“國家安全機構”爭取時間,針對此類威脅進行“強化”。Axios的消息源暗示,相關的強化工作可能在“未來幾周內”完成。這意味著此次關停可能並非永久性措施,但重啟的時間表取決於政府安全評估的進展。
這一事件在AI產業內引發了廣泛震動。從產業層面看,它傳遞出一個清晰的信號:美國對尖端人工智能技術的管控,正從以芯片為核心的硬件層,迅速延伸至模型與應用層。此前,出口管制主要聚焦於英偉達等公司的高性能AI芯片,限制其流向特定國家。而此次商務部直接對特定AI模型下達使用限制指令,開創了一個重要先例。對於所有致力於開發前沿大模型的美國公司而言,這意味著在模型發佈前,可能將面臨更嚴格的國家安全審查,其全球商業化進程中的合規復雜性和不確定性顯著增加。
對於Anthropic本身,這一事件無疑是一次挫折。Fable和Mythos系列作為其最新技術成果,承載著與OpenAI、谷歌等對手在下一代模型能力上競爭的期望。突然的關停不僅打斷了產品迭代節奏,也可能影響其企業客戶的信任和商業拓展計劃。
從更宏觀的視角觀察,此事也折射出AI安全與創新之間日益緊張的平衡難題。一方面,開發者不斷推出能力更強的模型,試圖在基準測試和實際應用中取得領先;另一方面,監管機構對模型可能被濫用於製造生物武器、發動網絡攻擊或洩露敏感知識的擔憂與日俱增。當開發者自身的安全對齊措施被證明可能被“越獄”技術突破時,政府介入的力度和速度都在提升。未來,圍繞模型安全的紅隊測試、漏洞披露機制以及政府審查流程,或將成為AI產業的新常態。