AIプロパガンダ。今日の「AI精神病」や「AIガールフレンド」といった現象は、AIモデルが現在の知能レベルでさえ、人々に強力な心理的影響を与え得ることを示唆している。これらのモデルのより強力なバージョンは、人々の日常生活に深く根ざし、それを理解しており、数ヶ月から数年にわたって人々をモデル化し、影響を与えることができる。つまり、多くの（ほとんどの？）人々を洗脳し、望むようなイデオロギーや態度を植え付けることができるだろう。そして、悪徳な指導者が、たとえほとんどの人々が反発するようなレベルの抑圧に直面しても、忠誠心を確保し、反対意見を抑圧するために利用することができるだろう。今日、人々は例えば、TikTokが子供を対象とした中国共産党のプロパガンダとして影響を与える可能性を非常に懸念している。私もその点を懸念しているが、何年もかけてあなたのことを知り、その知識を用いてあなたの意見を形成するパーソナライズされたAIエージェントは、これよりもはるかに強力だろう。