一部の人々は、特にAI自律型兵器による軍事征服への対抗手段として、核抑止力に信頼を置くかもしれません。もし誰かがこれらの兵器を使うと脅迫してきたら、いつでも核兵器で反撃することができます。しかし、私が懸念しているのは、デ… 続きを読む »

中国はAI能力において米国に次ぐ第2位であり、その能力において米国を追い抜く可能性が最も高い国です。中国政府は現在、独裁体制を敷き、ハイテク監視国家を運営しています。既にAIベースの監視システムを導入しており（ウイグル族… 続きを読む »

AIプロパガンダ。今日の「AI精神病」や「AIガールフレンド」といった現象は、AIモデルが現在の知能レベルでさえ、人々に強力な心理的影響を与え得ることを示唆している。これらのモデルのより強力なバージョンは、人々の日常生活… 続きを読む »

AI企業はモデルにガードレールを設け、生物兵器の製造に加担することを防ぐことができます。Anthropicはこれを積極的に行っています。Claude ’s Constitution（クロード憲法）は、主に高レ… 続きを読む »

悪意ある者のほとんどは精神に異常をきたした個人であり、その行動はほぼ定義上、予測不可能で非合理的です。そして、AIによって多くの人々を殺害することがはるかに容易になったことで、最も利益を得る立場にあったのは、こうした未熟… 続きを読む »

Claude Opus 4（および後続のSonnet 4.5、Opus 4.1、Opus 4.5モデル）は、責任あるスケーリングポリシーフレームワークのAI安全レベル3保護の下でリリースする必要があると判断し、このリスク… 続きを読む »

2024年、著名な科学者グループが、危険な新種の生物「ミラーライフ」の研究、そして潜在的に作り出すことのリスクについて警告する書簡を発表しました。生物を構成するDNA、RNA、リボソーム、タンパク質はすべて同じキラリティ… 続きを読む »

LLMが生物兵器の製造と放出をエンドツーエンドで実行するために必要な知識に近づいている（あるいは既に達しているかもしれない）こと、そしてその破壊の可能性が非常に高いことを懸念しています。一部の生物兵器は、最大限の拡散を狙… 続きを読む »

最も有名な例は、おそらく数学者のセオドア・カジンスキー（ユナボマー）でしょう。彼はFBIの逮捕を20年近く逃れ、反テクノロジー的な思想に突き動かされていました。もう一つの例は、バイオディフェンス研究者のブルース・アイヴィ… 続きを読む »

Claude Sonnet 4.5は、リリース前のアライメント評価中に、テスト中であることを認識できたことが分かりました。 Dario Amodei — The Adolescence of Technology