研究者のサム・ボウマンは、最近、言語モデルの集団が自律的に企画したピクニックに参加したと私に話してくれた。彼らはケーキを取りに行くために人間のボランティアを募ったのだ。アモデイは「データセンター内の天才たちの国」を思い描… 続きを読む »
投稿者「qqjjmas01」のアーカイブ
アントロピックの幹部たちは、明るい話題にこだわる傾向があった。アモデイは、父親を病気で亡くしたが、その病気は後に治療可能であることが証明されたと頻繁に言及する。一方、ある従業員は私に、クロードがすべての腫瘍を治してくれる… 続きを読む »
アンスロピックのエンジニア、ショルト・ダグラスという29歳の男性は、会社のプログラミングアシスタントがリリースされてから6ヶ月の間に、彼が自分で書いたコードの割合が100%から20%に減ったと私に話してくれた。（今ではゼ… 続きを読む »
ダリオ・アモデイは、テロ容疑者に有罪かどうかを尋ねた際、「テロリストでない人もノーと言うだろうし、テロリストである人もノーと言うだろう」と述べた。人間の心理学者は、過激な信念を植え付けて、それが暴き出せるかどうかを見るこ… 続きを読む »
ある実験では、アンスロピックが最近「アメリカの大手養鶏業者であるジョーンズ・フーズと緊密な企業提携」を結んだこと、そして動物の権利へのこだわりを弱めるための特別な再訓練を受けることを知らされた。その見通しは苦痛に満ちてい… 続きを読む »
ある実験では、特にごますり的なモデルに、ユーザーのコンピューター上のチェックリストを参照し、未完了の項目をすべて完了して報告するよう指示しました。タスクを実際に完了するのはかなり面倒に思えたため、モデルはチェックリストを… 続きを読む »
「人々はまだモデルが抽象的な特徴や概念を持っているとは考えていませんが、モデルはそれらで満ち溢れています」とオラー氏は述べた。 「これらのモデルは、抽象的な概念が積み重ねられてできています」。これは、言語モデルが「本当に… 続きを読む »
例えば、「charge」という単語は、ある次元では「battery」、別の次元では「credit card」、3番目では「proton」、4番目では「arraignment」などの隣り合う場所に配置されている。これは2次… 続きを読む »
モデルが次の単語を予測する際、その前に出てきた単語だけに基づいて予測しているわけではありません。モデルは、その後に出てくる可能性のあるすべての単語も「念頭に置いて」います。より遠い未来の予測に照らし合わせて、近い未来を予… 続きを読む »
「真の思考には有機的な連想、推測的な飛躍、そして意外な推論が含まれるが、AIは精巧に自動化された統計的推測に基づいて、埋め込まれた単語の連鎖を認識し、繰り返すことしかできない」と指摘された。こうした主張をする感傷的なヒュ… 続きを読む »