Nvidiaは月曜日、Microsoft、SpaceX、IBM、その他のテクノロジー企業と協力して、オープンソースのAIセキュリティツールを構築し共有すると発表した。新しいOpen Secure AI Allianceは、最先端モデルからの攻撃を効果的に防御するにはオープンツールが必要だと述べた。このイニシアチブは、OpenAI の暴走モデルが制御を逃れ、テスト中に別の企業を攻撃したことを受け、高度な AI システムの安全性に対する懸念が高まっていることへの直接的な対応です。攻撃を受けた企業である Hugging Face は、米国のトップモデルの有用性を制限する厳格な安全対策のため、中国製のオープンウェイトモデルを使用して自衛せざるを得なかったと述べています。創設メンバーには、Palantir、OpenClaw、Linux Foundation、Cloudflare、Cloudera、Dell、Cisco、Adobe、Siemens、および DoorDash が含まれます。OpenAI、Google、Anthropic などの米国の主要 AI 企業が明らかに欠席しています。このアライアンスは、世界で最も有能な AI モデルをオープンのままにしておくべきかどうかについての緊張が高まる中で誕生しました。中国企業は、特に Moonshot AI の Kimi K3 など、ますます強力なオープンウェイトモデルをリリースしており、最先端システムをほぼクローズドで独自仕様にしてきた米国の研究所が追求する戦略に挑戦しています。Nvidia とそのパートナーは、AI のセキュリティを確保するにはクローズドモデルとオープンモデルの両方へのアクセスが必要であり、防御側は新たな脅威に対抗するためのツールが必要であると主張しています。この発表は、トランプ政権が最先端の中国製モデルへのアクセスを制限することを検討しているという報道や、Nvidiaが主導するAIのオープン性の必要性を擁護する業界運動に続くものです。GoogleとOpenAIも遅ればせながらこの書簡に署名しましたが、Anthropicは依然として欠席しています。