研究者らは、GPTモデルにおける特定の事実関係は、ネットワーク全体に均等に分布しているのではなく、中間層のフィードフォワードモジュール内の特定可能な計算に局在していることを認識しました。これは素晴らしい発見です。しかし実際には、それらは特定の計算ステップに集中しており、それを標的にすることができます。彼らは、特定の事実関係を符号化する重みパターンを特定し、それを直接編集することで、ネットワーク全体を再学習させることなく、モデルが事実について抱く認識を変更できることを示しました。

モデルがエッフェル塔がベルリンにあると誤って認識している場合、その認識の計算上の原因を特定し、的確に修正することができます。

これは、現在のAIツール群で可能な、標的を絞ったメモリ編集に最も近いものです。

そして、モデルの知識が古かったり、ドメイン固有の誤りがあったりする企業環境への導入においては、これは重要な機能となります。また、LLMにおける長期記憶は、すべての重みに均等に分散されているわけではないことも示しています。LLMには内部構造、つまり内部地理が存在し、その地理は研究可能であり、ある程度はナビゲートできるのです。