生成AIシステムはDNA合成分類器を回避する生物兵器を製造できる。 現代のAI技術をどれだけうまく利用して新しい危険なタンパク質を設計し、それらを標準的なDNA合成サービスで合成できるかを研究した。結果はいくぶん恐ろしい… 続きを読む »

「11種類の最先端のAIモデルを調査した結果、モデルは非常に追従的であることがわかりました。モデルは人間よりも50％多くユーザーの行動を肯定し、ユーザーのクエリが操作、欺瞞、またはその他の関係上の損害について言及している… 続きを読む »

「このシナリオの穏健でないバージョンでは、近い将来のある時点で機械の知能が人間の知能を超え、機械は悪意を持つようになり、最終的には人類の絶滅につながります。これはSF小説で繰り返し登場するテーマですが、この分野の科学者た… 続きを読む »

モデルの崩壊は、誰かに女性の名前を聞いて、あまりにも多くの人がヒラリー・クリントンと答えるというミームを思い出させる。 アンドレイ・カルパシー — AGIはまだ10年先

私は物事を改めて説明するのが大好きで、みんなももっとそうするべきです。そうすることで、知識を巧みに操り、説明する時に自分が何について話しているのかをきちんと理解しているかどうかを確かめるようになります。 アンドレイ・カル… 続きを読む »

人に説明することは、何かをより深く学ぶための素晴らしい方法です。これは私によく起こることです。おそらく他の人にも起こることでしょう。なぜなら、何かを本当に理解していないと、説明できないことに気づくからです。説明しようとし… 続きを読む »

人は特定のことを当然のこととして捉えてしまい、駆け出しの人の立場に立って考えることができません。これはどこにでも見られる現象で、私にも起こります。 アンドレイ・カルパシー — AGIはまだ10年先

例えば、『 Scale』という素晴らしい本があります。これは物理学者が生物学について論じた本です。これもお勧めの一冊かもしれません。動物のスケーリング則に関する非常に興味深い近似値や図表が数多く掲載されています。動物の心… 続きを読む »

幼児教育で物理学を学ぶべきだと、私は長々と主張しています。なぜなら、幼児教育は、後の社会での仕事のために知識や記憶を蓄積することではなく、脳を活性化させることだからです。物理学は、脳を活性化させるのに最も効果的です。なぜ… 続きを読む »

私たちは人がどこまで到達できるかについて、ほんの表面をかすめた程度にしか到達できていません。それは、人々が簡単すぎる、あるいは難しすぎる教材に反発しているからです。人はもっと先へ進むことができるでしょう。誰もが5か国語を… 続きを読む »