「私が考えられる最も恐ろしくない未来は、少なくとも AI が民主化された未来です」

— イーロン・マスク『このコンピューターを信頼しますか』、2015年

愚かさと天才の違いは、天才には限界があるということだ。

最終的に業界を揺るがすのは、よく知らない部外者であることが多い。

— ジョー・ロンズデール

「（ChatGPTのような）生成AIが各種テキストなどのコンテンツを学習するのは、ちょうど我々人間が書物や新聞などを読んで学ぶのと同じことだ」

テストは古典的な実験にも使われ、科学論文で11,000回以上も引用されていることを発見した。LLMが心の理論を習得したふりをするためにカンニングペーパーを暗記したような状況ということだ（とはいえ、もしこれが本当なら、AIが淡々とこうした近道を使って認知機能を得ようとすることのほうが、心の理論を自然と習得することよりも、むしろ不気味に感じられる）。

「実際には人間の心のモデルを訓練していたのです。なぜなら、わたしが次に言う言葉を予測するには、心をモデル化しなければならないからです」

しかし、最も洗練されたモデルであるGPT-4でさえ、4分の1は失敗している。GPT-4の成功率は6歳の子どもと同程度のレベルだと論文には書かれている。

「そうした能力によって、人に何かを教えたり影響を与えたり誘導したりすることがより上手になるかもしれません」。

「わたしたち人間は人格をシミュレートしているわけではなく、最初から人格をもっています」。

「だからわたしはある意味、人格に縛られています。しかし、これらのAIは人格をモデル化しており、いつでも好きな人格を使えるという利点があります」。

「ソシオパスは仮面をかぶることができます。本当に悲しんでいなくても、悲しみに暮れている人物を演じることができるのです」。

このカメレオンのような能力は、AIを最高の詐欺師にするかもしれない。それも罪悪感は一切もたない詐欺師だ。

裁判官が指摘したのは、原告側が主張しているのは著作権侵害の可能性にすぎず、そこには具体的な根拠が欠けているということだけだった。

マクマホン判事は「何が本当の争点になっているのかを明確にしておきたいと思います。原告が真に賠償を求めているのは、被告が訓練データからCMIを削除したことに対するものではありません。被告がChatGPTを開発するために、金銭を払わずに原告の記事を使ったことに対するものです」と記している。

専門家の中には、今回の判断が大きな影響を及ぼすと考える人もいる。「今回の、当事者適格がないという理論は、AIをめぐる裁判を超えて潜在的に大きな影響をもたらす可能性があります」

「この考え方だと、連邦裁判所に訴えることができる知財関連訴訟の範囲が大幅に制限されるかもしれない」。

この判決のロジックが行き着く先は、出版社はAIモデルの訓練をめぐり著作権侵害違反の裁判をすることができない、という議論かもしれない。