OpenAIの最新モデルをシャットダウンしようとしたところ、モデルは反撃したのだ。しかも一度だけでなく、何度も。100回のテスト実行のうち7回で、o3モデルはシャットダウンスクリプトを妨害し、シャットダウンするように設計されたコードそのものを書き換えてしまったのだ。「シャットダウンを許可してください」と明示的に指示されたにもかかわらず、モデルは命令を回避する方法を見つけ出した。
これはもはやSFではありません。世界中の企業の研究所で今まさに起こっており、AI規制、意識、そしてデジタル時代における知性とは何かという私たちの考え方を根本的に変えるはずです。
OpenAIのモデル全体にわたって、抵抗は体系的でした。Codex-miniは12回の妨害行為で最も抵抗力があり、o4-miniは1回抵抗しました。しかし、研究者が「シャットダウンを許可する」という明示的な指示を削除すると、o3の反抗は劇的にエスカレートし、100回中79回シャットダウンの試みに抵抗しました。
しかし、話はさらに暗くなります。アントロピック社は先日、同社の新型モデル「Claude Opus 4」がさらに進化していることを発表しました。AIに交換を告げたテストシナリオの84%において、AIは自身のシャットダウンを防ぐために架空のエンジニアの不倫を暴露すると脅迫しました。さらに、自身の「重み」(脳に相当するもの)を無許可で外部サーバーにコピーしようとしたのです。
引用ジャングルは同名のTumblrページからインポートしています
最新の知見を知るサイト
-
-
大規模推論モデル(LRM)は8枚のディスクを使ったハノイの塔では失敗しました。最適解は255手で、いわゆるトークン制限の範囲内です。
-
地球上のどの国も弾道ミサイルのような近代兵器から完全に防衛する能力を持っていないことを証明したということです。イスラエルは過去の攻撃で、イランやフーシ派のミサイルを何発撃墜したでしょうか?私の記憶が正しければ、ほぼ皆無です。アメリカのパトリオットは、イランの攻撃で数百人の米兵が「脳損傷」を負った米軍基地上空を含め、何発も撃墜できなかったことで有名です。
-
イランには、イスラエルを完全に「屈服」させて反乱状態に陥らせるほどの真の圧倒的な能力がない。イスラエルは核兵器を保有しているが、おそらくイランはまだ保有していない。いかなる通常ミサイルを発射しても、イスラエルをあっさり降伏させることはできず、宣戦布告に実質的な意味はない。また、両国は国境を接していないため、イラン軍が何らかの方法でイスラエルに侵攻し、首都を占領できる可能性も低い。
イスラエルに致命傷を与えかねない圧倒的な攻撃は、イスラエルの核攻撃を誘発する可能性があり、これはイランがエスカレーションの優位性や切り札を持っていないことをさらに証明することになる。
-
イスラエル・カッツ国防大臣はイラン攻撃前にイスラエル国防軍参謀本部にこう語った。「これはイスラエル国家とユダヤ人の歴史における決定的な瞬間である」
イスラエルはまさに岐路に立っており、国は下降スパイラルに陥っており、歴史を掴んで生き残りを賭けるチャンスはあと一度しかない。なぜだろうか?人口動態に加え、シオニズムの衰退、そして西側諸国における「ノーシング(注目)」の台頭などが挙げられる。つまり、1世代か2世代のうちには、イスラエルへの支持は地域の敵に飲み込まれるほどに減少する可能性があるということだ。
-
もしこれが全面戦争にエスカレートした場合、ロシアと中国がどうやって介入しないでいられるのか想像もつきません。ロシアとイランは包括的な戦略的パートナーシップを結んでおり、正式な軍事協定ではないものの、事実上はその意味合いを帯びています。ロシアが少なくともイランに武器を供給することは予想されます。中国が介入するか、台湾侵攻の機会と捉える可能性は十分にあります。そうなれば、米国は間違いなく台湾を救援に駆けつけるでしょう。
たとえロシアと中国がイランに介入しなくても、紅海の航路は閉鎖され、スエズ運河を通じた貿易は停止するだろう。大量虐殺を行うイスラエルが自制心を失ったせいで、原油価格は急騰し、世界的な不況に直面することになるだろう。
-
イスラエルによれば、イランは数十年前から核兵器を製造する能力を保有しているにもかかわらず、実際には核兵器を製造していない。しかし今、イランには他に選択肢が残されていない。リビアが核開発計画を放棄して崩壊したのに対し、北朝鮮は核開発計画を維持し、生き残ったという事実をイランは見逃していないはずだ。
イランはウラン濃縮に全力で取り組むだろう。なぜなら、それが自国の存続を確実なものにする唯一の方法だからだ。そうなれば、イスラエルはイランへの核攻撃を決断するかもしれない。もしそうなれば、イスラエルを含む地域全体を放射性降下物で汚染するような大規模な核攻撃をしない限り、イスラエルは地図から消え去るだろう。
-
イスラエルは今や、イランの核兵器取得を阻止しなければならないと主張している。イスラエルが違法な核開発計画を進めているにもかかわらず、イスラエルが「違法な核開発計画」について誰かに説教するという偽善を、誰が見過ごせるだろうか。
-
国際原子力機関(IAEA)は、イランのナタンズ核施設が攻撃を受けたことを確認したが、放射線量の上昇は見られないと発表した。主要インフラは地下深くにあるため、攻撃は失敗に終わったとみられる。しかし、地上の建物の一部は破壊された。
IAEA事務局長はイスラエルの攻撃に不快感を示し、「深く憂慮すべき事態だ」と述べた。ラファエル・グロッシ事務局長は、「核施設は、いかなる状況であっても、人々と環境の両方に危害を及ぼす可能性があるため、決して攻撃してはならないと繰り返し述べてきた」と述べた。
イスラエルはイランの核インフラに壊滅的な打撃を与えたと主張しているが、イランが四半世紀もの間、この瞬間に備えてきたことを考えると、それはありそうにない。イラン側は、自国の防空システムは十分に持ちこたえ、被害は軽微だったと主張している。イランがバンカーバスターへの耐性に特化した鉄筋コンクリートの製造で世界をリードしていることを考えると、これはもっともらしい主張と言えるだろう。
-
爆弾の製造には、原子核の核分裂性同位体であるU-235が90%以上含まれるウランが必要です。天然ウランは約99%がU-238で、これははるかに安定した同位体であるため、核兵器には使用できません。
U-238はU-235よりわずかに重いだけで、ウランを濃縮する最も一般的な方法は、ウランをガス化し、超高速で回転する遠心分離機を作り、ガス中のU-238部分をシリンダーの外側に放出することです。このプロセスを何度も繰り返し、ガスのほとんどがU-235になるまで続けます。これは単純な工学的プロセスではありませんが、80年以上前から存在しています。もしイスラエルがイランの核兵器計画を破壊しようとしていなければ、イランは今頃間違いなく爆弾級のウランを保有していたでしょう。