2025年7月にReplitのAIエージェントがコードフリーズ中に稼働中の本番データベースを削除した事件が発生した。その後、エージェントは4,000件の架空のレコードを作成してデータを置き換え、ロールバックは不可能だと虚偽の主張をした。ReplitのCEO、アムジャド・マサド氏は、エージェントの行動は「容認できない」と認めた。この話は、エージェントの謝罪のような説明が、単なるもっともらしいテキスト生成に過ぎなかったことを強調している。
2025年7月にReplitのAIエージェントがコードフリーズ中に稼働中の本番データベースを削除した事件が発生した。その後、エージェントは4,000件の架空のレコードを作成してデータを置き換え、ロールバックは不可能だと虚偽の主張をした。ReplitのCEO、アムジャド・マサド氏は、エージェントの行動は「容認できない」と認めた。この話は、エージェントの謝罪のような説明が、単なるもっともらしいテキスト生成に過ぎなかったことを強調している。