OpenAI（ChatGPTの開発元）、Anthropic、Googleといった最先端の研究所でさえ、最も高度なモデルから幻覚を完全に排除する方法をまだ見つけていないからだ。そして実際、今年初めに起きた悪名高い事件では、現場でバックグラウンドで流れていたとされるディズニー映画「プリンセスと魔法のキス」の音声を拾ったユタ州の警官がカエルに変身したと報じている。その事件を笑うのは簡単だが、AIが作成した警察報告書の現実世界での結果は、致命的な事態になりかねない。