引用ジャングル

ハルシネーション、つまり幻覚の問題は重要な課題です。また、AIの決定プロセスの説明可能性も密接に関連しています。

私たちは、AIの動作を人間の思考プロセスと同じように完全に説明することはできません。例えば、私があなたになぜ今日青いシャツを着ているのか説明を求めたとします。あなたは事後的に創造的に理由を想像するでしょう。そして、あなたの気分やコンテキスト、その他の関連するメタデータによって、おそらく少し異なる説明をするでしょう。それが完全に因果関係に基づいているかは明確ではありません。

実際のところ、私たちはそのように機能しているわけではありません。私たちはもっと連想によって機能しています。一対一のマッピングは、人間の思考方法に対する非常に過度な要求なのです。