「最近よく話題になっているのは、言語モデルが様々なモードに陥り、まるで異なる性格のように振る舞うという現象です」

「これは会話中に起こり得ます。会話のせいでモデルが奇妙な振る舞いを始め、過度に媚びへつらったり、邪悪な態度を取ったりするのです。これは学習中にも起こり得ます」

ここで一つ明確にしておきたいのは、AIには実際には性格や特徴があるわけではないということです。AIは大規模なパターンマッチングツールであり、テクノロジーツールなのです。