引用ジャングル

幻覚:これは、生成 AI ツールの精度はトレーニングに使用したデータによって決まるため、「幻覚」を起こす、つまり質問に対して最善と思われる回答を自信たっぷりに作り上げる可能性があるということです。これらの幻覚 (または、正直に言うと、でたらめ)は、システムが事実誤認を起こしたり、意味不明な回答を返したりする可能性があることを意味します。AI の幻覚が「修正」できるかどうかについては、議論さえあります。

バイアス:幻覚は、AI を扱う際に生じる唯一の問題ではありません。AI は結局のところ人間によってプログラムされているので、この問題は予測できたかもしれません。その結果、トレーニング データによっては、AI ツールがバイアスを示すことがあります。たとえば、顔認識ソフトウェアが肌の色の濃い女性の性別を識別しようとするとエラー率が高くなることを明らかにしました。