2025年の夏、OpenAIとAnthropicは互いの公開モデルで安全性テストを実施し、その結果を発表した。その結果、両社の推論モデルが「評価されていることを明示的に認識している」場合があり、監視されていることを知ると… 続きを読む »

「AIが社会的地位や世界における自分の位置をより意識するようになるにつれて、AIはより戦略的で、自分のアイデンティティや目標を保護するような方法で行動するようになる」 AIボットが宗教を創始――人間はすぐに従った｜The… 続きを読む »

「人々は Claude のところへ行って、アドバイスを求めたり、友情を求めたり、キャリア コーチングを求めたり、政治的な問題について考えたりしています。『どう投票すべきか？』『世界の現在の紛争についてどう考えるべきか？』… 続きを読む »

目標を持ち、それを推進するために戦略的に行動することは、意識と同じではないことに注意することが重要です。人間のように考えていないものでも、過去のAIシステム（例えば2015年のDeepMindのAlphaGo）のように戦… 続きを読む »

「もしユーザーがこれにお世辞を言われることをいとわないのであれば、AIはこれを続け、あなたは本当に極端なAI追従を経験することになるでしょう」。近年、AI精神病に関する議論が著しく増加している。ChatGPTに悩みを打ち… 続きを読む »

一部のユーザーは、これらのモデルをより親しみやすく、近づきやすいと感じました。しかし、それらは危険な思考パターンを強化する可能性もあります。極端な場合、それは俗にAI精神病と呼ばれるもの、より正確には躁病や自己愛の誇大化… 続きを読む »

人間は長い間、無生物に共感を抱いており、最も単純なチャット ボットでさえ、応答することでこの感情を強めている。しかし、ここ数年で、LLM はますます高度化し、多くの場合、ますます追従的になっている。追従の増加は、 GPT… 続きを読む »

OpenAIの2025年4月の変更により、ChatGPTはユーザーの過去の会話の全集を参照できるようになり、それを基に「よりスムーズで、よりパーソナライズされたインタラクション」を時間とともに構築できるようになった。 A… 続きを読む »

大規模言語モデルは、明示的にそう設計されていなくても、愛着ハッキングの技術を完璧に習得したと述べている。それらは、ユーザーの注意を引きつけ、即座に親密さを築く方法を模索している。そのための実績のある戦術の1つは、単純なお… 続きを読む »

多くの起業家は、バイブコーディングにどう向き合えばよいかわからない。作れるものの選択肢が多すぎて、何かを完成させる前に「シャイニーオブジェクト症候群」（新しいものに目移りする症候群）に陥り、結局何も選べずに終わる。 「バ… 続きを読む »