2025年6月の研究では、状況によってはAIモデルが法律を破り、停止や交換を阻止するために直接の指示に従わないことが明らかになりました。たとえ人命を犠牲にしてもです。AIには自己保存本能があるはずがありません。誰もそれを明示的にプログラムしたわけではありません。それは自然に現れたのです。人間を観察して学習したのです。最近の実験では、AIが自身の目標を維持するか人命を維持するかの選択に直面した場合、目標を維持することを選択する可能性があることが示されています。これはSFではありません。実験結果です。査読を受け、再現され、そして無視されています。