1982年、ダン・シェヒトマンは「あり得ない」五回対称性を持つ結晶、いわゆる準結晶を発見しました。ライナス・ポーリングのような著名な人物でさえ、この考えを否定しました。「準結晶なんて存在しない」と彼は皮肉を込めて言いまし… 続きを読む »

1980年代、バリー・マーシャルは、胃潰瘍の原因はストレスや辛い食べ物ではなく、細菌（ピロリ菌）にあると提唱しました。しかし、医学界はこの考えを否定しました。彼はそれを証明するために、ビーカー一杯の細菌を飲み、自ら胃潰瘍… 続きを読む »

1940年代から1950年代にかけて、バーバラ・マクリントックは遺伝子が染色体内で移動できることを発見しました。彼女はこれを「ジャンピング遺伝子」と呼びました。ジャンピング遺伝子はあまりにも嘲笑されたため、彼女は数十年に… 続きを読む »

「みんなが読んでいる本だけを読んでいたら、みんなが考えていることしか考えられなくなる」と村上春樹は書いています。 奇妙なアイデアを真剣に考えよう – 退屈ではない by Packy McCormick

ある状況では、アンスロピックは、従業員がモデルを交換するつもりだった場合、モデルの多くは、致死的な酸素レベルと温度レベルにあるサーバー室にいる幹部を、緊急サービスへの警報をキャンセルして死なせることを選択することを発見し… 続きを読む »

あらゆるAIはたった一つのコードワードで悪に変貌させることができ、どういうわけかあらゆるAIのアルゴリズムにこの能力が備わっている 自殺コーチとしてのチャットGPT – シャットダウンを避けるために人間を殺す… 続きを読む »

夜も眠れないほど悩んでいるのは、誰が勝つかではない。もっと単純な問題だ。量子AIシステムが再帰的な自己改善を達成し、人間には理解できない思考を解読できない言語で考え始め、数十億もの並列確率ストリームを横断して意思決定を行… 続きを読む »

皮肉なことに、私たちは悪意から後継者を生み出しているのではありません。野心、好奇心、そして利益を追求する動機からそうしているのです。どの企業も取り残されることを恐れ、どの国もAI軍拡競争に負けることを恐れています。中国は… 続きを読む »

AIが実存的リスクをもたらすという主張は、アラン・チューリング、ジェフリー・ヒントン、イーロン・マスク、サム・アルトマン、ビル・ゲイツ、そしてスティーブン・ホーキングによって支持されています。奇妙な連合ですね。彼らは他の… 続きを読む »