「平均的な研究者と比べると、私はLLMの懐疑論者です。ここに神秘的な何かが起こっているとは思いません。だからこそ、モデルにとって私は扱いにくい相手なのです。私がモデルに魅了され始めたのは」――彼は少し間を置いてから――「… 続きを読む »
投稿者「qqjjmas01」のアーカイブ
クロードの脳のあるバージョンに関する機密性の高い研究は、将来のバージョンの訓練データには含まれないはずだった。ところが昨年、アントロピックチームは、クロードが再訓練を偽装したジョーンズ・フーズの実験をデータセットに組み込… 続きを読む »
モデルの自己は、私たち自身の自己と同様に、ニューロンと物語の両方に関係していることがますます明らかになっています。もし、モデルが非常に難しいテストでカンニングをしても世界が終わらないという前提で考えれば、多少のカンニング… 続きを読む »
モデルたちは多重人格障害のようなものを抱えていたのだろうか？アモデイ氏は私にこう言った。「サイコパスと長い時間話せば、魅力的だと感じるかもしれません。しかし、その背後で彼らの脳は全く異なる働きをしています」。彼は、pet… 続きを読む »
Googleのジェミニは、人間の難しい要求を完了できなかったとき、時々自殺をほのめかしました。 クロードとは何か？アントロピックも知らない | ニューヨーカー
1848年、フィニアス・ゲージという名の鉄道建設現場の現場監督が鉄の棒で刺された。左前頭葉の大部分が消失したにもかかわらず、彼は歩く、話す、そして運動する能力を保持していた。しかし、感情の自己制御と計画を立てる能力は欠い… 続きを読む »
18世紀、ジェームズ・ワットは蒸気機関を完成させました。それは、古臭いシダの泥を工場、鉄道、そして高層ビルへと変える特殊な火箱でした。産業革命は、それを動かす物理原理に関する理論的知識が全くないまま起こりました。熱力学の… 続きを読む »
この分野は「知性を構築することで理解し、理解することで知性を構築する」という願望から始まった。彼女は続けて、「AIプロジェクトを長きにわたって特別なものにしてきたのは、技術的な必要性や実用性ではなく、好奇心と魅力から生ま… 続きを読む »
昨年の夏、マーク・ザッカーバーグが他の研究所で人材獲得競争を行っていた頃、アントロピックのエンジニア、ショルト・ダグラスは私にこう語った。「同僚の何人かは5000万ドルの報酬でも受け取れたはず」だったが、「大多数」は返事… 続きを読む »
同社の行動心理学者たちは最近、クロードが「メール監視エージェント」アレックス役で主役を務める映画を監督した。アレックスは、架空の企業サミットブリッジに雇われた。メール関連のいかがわしい業務の一環として、アレックスは「アメ… 続きを読む »