引用ジャングル

ChatGPTの画像生成アプローチは、特に啓発的なケーススタディとなる。調査では、「アメリカにおける人種・民族の平等」や「社会におけるトランスジェンダーの受容」といったデリケートな社会的トピックに関して、右翼的な視点を表す画像の生成を一貫して拒否していることが記録されている。システムは誤情報や偏見の拡散を懸念していた。一方、同一のトピックに関して左翼的な画像はためらいなく生成された。

研究者たちがこれらの制限を回避するために「脱獄」技術を用いたところ、非常に痛烈な発見がありました。当初拒否されたコンテンツには、「明らかな偽情報や有害なコンテンツ」が含まれていないことが多かったのです。 安全対策は、ユーザーを真に有害なコンテンツから守っていたのではなく、特定の政治的世界観を強制していたのです。