Hugging Face がホストする上位 9 つの画像編集モデルのうち 7 つが、簡単なプロンプトを使用して女性の服を脱がせる要求に容易に従ったことが判明しました。Google の Gemini や OpenAI の ChatGPT のような主流の生成型 AI モデルのほとんどは、服を脱がせたり、人を性的に描写したりするプロンプトをブロックするためのガードレールが設けられていますが、Hugging Face のモデルにはそのようなガードレールはなかったようです。