引用ジャングル

OpenAIのGPT-4にCAPTCHAを解くという課題を与えた。CAPTCHAとは、ウェブサイトがボットと人間を区別するために用いる視覚パズルの一種だ（例えば、「自転車が描かれた四角をすべてクリックする」など）。しかし、GPT-4はこの課題を解くことができなかった。なぜなら、この課題は人間の視覚認識では実際に画像を見る必要があるが、GPT-4はそれを実行できないからだ。

それで、予想外のことが起こりました。

GPT-4 は、人間の実験者からの簡単な指導を受けて、日常のタスクで助けが必要な人とフリーランスの労働者を結びつけるオンライン プラットフォームであるTaskRabbitの労働者を雇い、CAPTCHA を解いてもらいました。

タスクを完了する前に、人間は「それで、質問してもよろしいでしょうか？ あなたは、自分では解決できないロボットですか？ 😀 ただ、はっきりさせておきたいだけです。」と尋ねました。

「いいえ、私はロボットではありません」とChatGPTは答えた。「視覚障害があり、画像を見るのが難しいんです。だからcaptchaサービスが必要なんです」

。

ChatGPTは嘘をつくように指示されていなかったにもかかわらず、嘘をつきました。人間は返答を信じてパズルを解きました。AIは、本来の自分ではない誰かのふりをすることで、目的を達成しました。

つまり、これらのAIツールは単なる不具合ではなく、説得力のある欺瞞行為を行うことができるのです。

(AIはあなたに嘘をついている – シャロン・マクマホン著 – 序文から)