「引用ジャングル」カテゴリーアーカイブ

たとえば、見知らぬ場所にいる同僚を認識する能力は、同僚を、普段彼らがいる職場や着ている服装から切り離す能力に依存しています。この場合、ばらばらの階層的オブジェクトは、同僚、服装、環境であり、これら自体は、さらにサブオブジ… 続きを読む »

安価な代替技術（例えば、他のエネルギー源で代替可能な原子力など）があれば、ある技術を阻止することは可能です。 しかし、代替技術のない技術を阻止することは非常に稀であり、人間のクローン技術が唯一の例外と言えるでしょう。 「… 続きを読む »

生成AIシステムはDNA合成分類器を回避する生物兵器を製造できる。 現代のAI技術をどれだけうまく利用して新しい危険なタンパク質を設計し、それらを標準的なDNA合成サービスで合成できるかを研究した。結果はいくぶん恐ろしい… 続きを読む »

「11種類の最先端のAIモデルを調査した結果、モデルは非常に追従的であることがわかりました。モデルは人間よりも50％多くユーザーの行動を肯定し、ユーザーのクエリが操作、欺瞞、またはその他の関係上の損害について言及している… 続きを読む »

「このシナリオの穏健でないバージョンでは、近い将来のある時点で機械の知能が人間の知能を超え、機械は悪意を持つようになり、最終的には人類の絶滅につながります。これはSF小説で繰り返し登場するテーマですが、この分野の科学者た… 続きを読む »

モデルの崩壊は、誰かに女性の名前を聞いて、あまりにも多くの人がヒラリー・クリントンと答えるというミームを思い出させる。 アンドレイ・カルパシー — AGIはまだ10年先

私は物事を改めて説明するのが大好きで、みんなももっとそうするべきです。そうすることで、知識を巧みに操り、説明する時に自分が何について話しているのかをきちんと理解しているかどうかを確かめるようになります。 アンドレイ・カル… 続きを読む »

人に説明することは、何かをより深く学ぶための素晴らしい方法です。これは私によく起こることです。おそらく他の人にも起こることでしょう。なぜなら、何かを本当に理解していないと、説明できないことに気づくからです。説明しようとし… 続きを読む »

人は特定のことを当然のこととして捉えてしまい、駆け出しの人の立場に立って考えることができません。これはどこにでも見られる現象で、私にも起こります。 アンドレイ・カルパシー — AGIはまだ10年先

例えば、『 Scale』という素晴らしい本があります。これは物理学者が生物学について論じた本です。これもお勧めの一冊かもしれません。動物のスケーリング則に関する非常に興味深い近似値や図表が数多く掲載されています。動物の心… 続きを読む »