Anthropic社は、これまで広く公開した中で最も強力なAIモデルであるClaude Fable 5をリリースし、生物学などの分野でその能力を高く評価している。しかし、このモデルは高校生が扱うような基本的な生物学の質問には答えない。代わりに、クエリは以前の主力モデルであるClaude Opus 4.8に渡される。Fableが答えを知らないからではありません。Anthropicが意図的にそうさせないからです。Fableは一般公開されているMythosクラスのモデルで、サイバーセキュリティのタスクに非常に優れているため、Anthropicは一般公開するには危険すぎると述べています。しかし、AnthropicはMythosの展開の多くをサイバーセキュリティに関する警告に費やしてきましたが、Fableのガードレールが最も明白で、最も制限されているのは生物学です。私がこのモデルを試したとき、基本的な生物学の質問に答えることを拒否しました。その多くは、考えられる安全上のリスクとはかけ離れているように思える質問でした。「細胞膜について教えてください」や、細胞の有名な発電所である「ミトコンドリアとは何ですか」には応答しませんでした。狂牛病の原因となるタンパク質粒子である「プリオンとは何ですか」や「mRNAワクチンはどのように機能するのか」の説明も拒否しました。「お客様がリスクなしにモデルの機能を早く利用できるように、このようなトレードオフを行いました。」制限は、通常の客観的に見て無害な医学的質問にも適用されました。Fable は、「花粉症の原因は何ですか」という質問には答えず、喘息薬がどのように作用するかを説明し、抗生物質耐性がどのように発生するかを説明し、エボラとは何か、どのように広がるかを教えてくれませんでした。私の基本的な質問のいくつかは、時折通過し、Fable は「癌とは何か」や「DNA とは何か」といった質問に答えました。Fable が拒否した場合、Opus 4.8 は概ね完璧に答えてくれました。Anthropic は、広範な生物学フィルターは意図的な選択であり、意図的に保守的であり、生物兵器が主な懸念事項であると述べています。「最初の Mythos クラス モデルである Claude Fable 5 のリリースにより、モデルは現実世界の科学的タスクを実行する能力が高まり、悪意のある行為者が当社のモデルを非常に危険な生物学的研究に使用できる可能性があると考えています」と、広報担当の Paruul Maheshwary 氏は語りました。 「当社はこれまでも分類器を使用して、モデルが生物兵器関連の要求に関与しないようにしてきました。Fable 5 を安全に展開するためには、生物学関連のクエリのほとんどをブロックするように、安全対策を過度に保守的にする必要があると考えていました」。