先月、ある金融サービス会社はAIエージェントに関して、高くつく教訓を得ました。デモでは完璧に動作していた自動返金処理エージェントが、本番環境で壊滅的なエラーを起こしたのです。定期的な移行作業中に、データベースの列名user_id,account_idが から に変更されていたのです。エージェントはこれに気づかず、90秒の間に2,300件、総額460万ドルの返金を処理してしまいました。しかも、すべて誤った口座への返金でした。