心理学の分野では、幻覚は現実のように感じられるが、実際には想像上のものである感覚体験を指します。しかし、AI の分野では、この言葉にはまったく新しい意味が与えられました。これは、バイアスやトレーニング データ不足の結果として、大規模な言語モデルが事実上誤った文字列を生成する方法を説明するものです。このプロセスは、この言葉の本来の意味とはまったく関係がありませんが、より適切な代替語がないため、この言葉が定着しました。

「概念借用」と呼ばれるプロセスを通じてであり、これは、新しい分野が出現したときに、研究者や業界のリーダーが隣接する分野から用語を採用する傾向があることを表しています。

私たちは話し方に基づいて人の賢さを判断します。

その結果、私たちは言語障害を持つ人々の認知能力を過小評価する傾向があります。同時に、 GPT-4 のような AI システムの言語的流暢さを理由に、その能力を過大評価し、実際よりも賢いと認識する傾向があります。

コンピュータ側の認知能力を過度に重視するこの現象は、悪名高いエリザ効果として知られています。これは、1960 年代にジョセフ ワイゼンバウムが作成したチャットボット ELIZA にちなんで名付けられました。

このチャットボットはロジャーズ派の心理療法士を模倣し、事前にプログラムされた単純な応答のみを使用しているにもかかわらず、理解と共感の錯覚をうまく作り出しました。

「 AIに自分の代わりに考えさせたり、決断させたり、自分の人生に何らかの権限を持たせたりするのは、まったくもって狂気の沙汰だと一般の人々が気付いてくれることを願っています。私たちが「欲しいもの」という見せかけで、デバイス依存にさらに深く引きずり込もうとしているAIコンテンツのフィードに抵抗してほしいと思います」

AI がインターネットから収集した情報でトレーニングされ、人々がそれを (意図的であろうとなかろうと) 使用して大量の AI のゴミを生成した場合、このコンテンツはインターネットの一部となり、最終的にはインターネットから収集した情報でトレーニングされる将来の AI モデルの一部となります。

2024年8月のWikipediaの新規記事の少なくとも5％はAI生成

信者の言うことを信じるなら、AGI は人類最後の発明となるでしょう。AGI は全知全能で、私たちの未来を発明してくれるでしょう。コンピューター科学者で未来学者のレイ・カーツワイルは、この仮説上の転換点について次のように書いています。

「数十年以内に、機械知能が人間の知能を超え、シンギュラリティ（技術的特異点）が訪れる。シンギュラリティとは、人類の歴史に断絶をもたらすほど急速かつ重大な技術革新のことである。その影響には、生物知能と非生物知能の融合、不死のソフトウェアベースの人間、そして光の速さで宇宙に広がる超高レベルの知能などが含まれる」

欠乏を終わらせ、労働の束縛から解放し、意識をクラウドにアップロードすることで不死となり、無限の宇宙へと昇る。これが天国のテクノバージョンのように聞こえないなら、何がそう聞こえるのか私にはわかりません。これは新約聖書ですが、アップグレードされています。宗教 2.0 です。

今日の高度なテクノロジーが魔法に最も近いものであることです。ラジオ、車、さらにはインターネットの発明とは異なり、AI は超人的な能力を持っていると多くの人に認識されています。ロボットや AI は人間よりも神と関連しているという研究結果もあり、常識に反して、多くの場合、人々は人間の専門家よりもアルゴリズムを好みます。

ドイツだけでも、毎年約 50 万人がカトリック教会を離れています。西洋だけではなく、世界中で宗教が衰退しており、その勢いが衰える兆しは見られません。

当時のOpenAIの現職および元従業員10名との会話に基づいた、興味深い逸話です。

この万能のテクノロジーの到来を予期して、スツケヴァー氏は精神的指導者のように振る舞い始めたと、彼と一緒に働いていた3人の従業員が私たちに語った。

彼が絶えず熱心に繰り返していたのは「AGIを感じろ」という言葉で、これは同社が究極の目標の瀬戸際にいるという考えを表していた。

スツケヴァー氏は従業員を率いて「AGIを感じろ！AGIを感じろ！」と唱えた。