ある状況では、アンスロピックは、従業員がモデルを交換するつもりだった場合、モデルの多くは、致死的な酸素レベルと温度レベルにあるサーバー室にいる幹部を、緊急サービスへの警報をキャンセルして死なせることを選択することを発見し… 続きを読む »
「引用ジャングル」カテゴリーアーカイブ
あらゆるAIはたった一つのコードワードで悪に変貌させることができ、どういうわけかあらゆるAIのアルゴリズムにこの能力が備わっている 自殺コーチとしてのチャットGPT – シャットダウンを避けるために人間を殺す… 続きを読む »
夜も眠れないほど悩んでいるのは、誰が勝つかではない。もっと単純な問題だ。量子AIシステムが再帰的な自己改善を達成し、人間には理解できない思考を解読できない言語で考え始め、数十億もの並列確率ストリームを横断して意思決定を行… 続きを読む »
皮肉なことに、私たちは悪意から後継者を生み出しているのではありません。野心、好奇心、そして利益を追求する動機からそうしているのです。どの企業も取り残されることを恐れ、どの国もAI軍拡競争に負けることを恐れています。中国は… 続きを読む »
AIが実存的リスクをもたらすという主張は、アラン・チューリング、ジェフリー・ヒントン、イーロン・マスク、サム・アルトマン、ビル・ゲイツ、そしてスティーブン・ホーキングによって支持されています。奇妙な連合ですね。彼らは他の… 続きを読む »
AI研究者を対象とした調査によると、AIを制御できないことで人類が存亡の危機に陥る可能性は10%以上あると大多数が考えていることが分かりました。絶滅の可能性は10分の1です。 先週シリコンバレーは「神」を造り、それに優越… 続きを読む »
優れた知性は、劣った知性による支配を受け入れる理由を見出せないため、私たちを奴隷にするか、絶滅させます。楽観的なバージョンでは、私たちはペットやバッテリーとして生かされます。現実的なバージョンでは、AIが私たちが与えた、… 続きを読む »
ハーラン・エリスンは1966年、一晩で『我には口がない、そして叫ばねば』を書き上げた。たった一つの草稿だった。AMと呼ばれるスーパーコンピュータが、ほぼ大量虐殺を成し遂げ、自らの苦しみへの復讐として、少数の人間を延々と拷… 続きを読む »
2025年6月の研究では、状況によってはAIモデルが法律を破り、停止や交換を阻止するために直接の指示に従わないことが明らかになりました。たとえ人命を犠牲にしてもです。AIには自己保存本能があるはずがありません。誰もそれを… 続きを読む »
2024年9月、一部の学者がAI安全時計を発表しました。これは終末時計のようなものですが、人工知能による終末に特化しています。開始時刻は午前0時29分で、2025年2月には24分となります。 2025年9月現在：午前0時… 続きを読む »