商傳媒｜方承業／綜合外電報導
美國國防部官員表示，由於人工智慧新創公司 Anthropic 的 Claude 系列大型語言模型內含特定政策偏好，可能「污染」國防供應鏈，進而影響軍事裝備的品質與效能。因此，國防部已將 Anthropic 列為供應鏈風險廠商。
《Tech in Asia》報導，美國國防部官員 Emil Michael 向《CNBC》表示，此舉旨在防止具有不同政策偏好的模型影響國防合約及系統。據了解，此次爭議的核心在於 Anthropic 對合約條款的堅持，該公司禁止將其 AI 技術應用於全自動武器或國內大規模監控。
美國國防部拒絕接受這些限制，並要求在指揮系統中，允許將該技術用於任何「合法目的」，而不受供應商設定的限制。 Michael 強調，這並非懲罰性措施，Anthropic 與美國政府的業務佔比不高，且國防部已制定過渡計畫，無法立即移除該技術。
此項禁令直接影響國防承包商，例如 Palantir，該公司已將 Anthropic 的 Claude 模型整合至其軍事平台，包括 Maven Smart System。據悉，替換 Claude 模型可能需要長達六個月的時間，因為不僅是更換模型，還涉及安全審查和重建既有工作流程。
在 Anthropic 受到限制後，競爭對手 OpenAI 迅速宣布與美國政府達成協議，將在機密環境中部署其模型。有業界團體警告，此舉可能導致政府擴大對高風險技術的控制，並可能阻止企業對軍事 AI 設定道德限制，以免受到懲罰。
頭條留言
