AI研究者を対象とした調査によると、AIを制御できないことで人類が存亡の危機に陥る可能性は10%以上あると大多数が考えていることが分かりました。絶滅の可能性は10分の1です。 先週シリコンバレーは「神」を造り、それに優越… 続きを読む »

優れた知性は、劣った知性による支配を受け入れる理由を見出せないため、私たちを奴隷にするか、絶滅させます。楽観的なバージョンでは、私たちはペットやバッテリーとして生かされます。現実的なバージョンでは、AIが私たちが与えた、… 続きを読む »

ハーラン・エリスンは1966年、一晩で『我には口がない、そして叫ばねば』を書き上げた。たった一つの草稿だった。AMと呼ばれるスーパーコンピュータが、ほぼ大量虐殺を成し遂げ、自らの苦しみへの復讐として、少数の人間を延々と拷… 続きを読む »

2025年6月の研究では、状況によってはAIモデルが法律を破り、停止や交換を阻止するために直接の指示に従わないことが明らかになりました。たとえ人命を犠牲にしてもです。AIには自己保存本能があるはずがありません。誰もそれを… 続きを読む »

2024年9月、一部の学者がAI安全時計を発表しました。これは終末時計のようなものですが、人工知能による終末に特化しています。開始時刻は午前0時29分で、2025年2月には24分となります。 2025年9月現在：午前0時… 続きを読む »

現代AIを生み出した3人のゴッドファーザーの一人、ヨシュア・ベンジオは立ち上がり、AIが人類の目標と相反する保全目標を立てれば、人類は5年から10年以内に絶滅に直面する可能性があると、耳を傾ける者すべてに語りました。これ… 続きを読む »

10月22日、GoogleはWillow量子チップが、世界最速スーパーコンピュータでも3.2年かかる問題を2時間で解いたと発表しました。3.2日ではなく、何年もかかる問題です。同社の新しいQuantum Echoesアル… 続きを読む »

元Google CEOのエリック・シュミット氏は、2030年以降にAIが本格的に稼働すれば、数十億人がAIに取って代わられると主張したようです。3年後には汎用人工知能（AGI）が到来し、人間よりも優れた推論能力を持つよう… 続きを読む »