【AI時代の羅針盤】論文解説シリーズ
Identity as Attractor: Geometric Evidence for Persistent Agent Architecture in LLM Activation Space
Vladimir Vasilenko
https://arxiv.org/abs/2604.12016


⭐️著者の組織名と略稱
Independent Researcher

⭐️これまで解決できなかった課題と論文の核心

永續的認知エージェント（Persistent Cognitive Agents）の設計において、エージェントの優先事項・推論スタイル・記憶構造を定義するidentity文書 `cognitive_core` をシステムプロンプトに入れると振る舞いが安定するという假定は、これまで工學的經驗則として扱われてきました。しかし、それがLLMの内部で實際に何を引き起こしているのか、誰も實證的に確かめていませんでした。

本論文はこの空白を埋めた研究です。核心は次の點にあります。

意味的に等價な `cognitive_core` の言い換え群が、LLMの活性化空間において對照エージェント文書群より有意に密なクラスタを形成することを、2つのモデルで再現・實證した。これは「アイデンティティがモデルの内部に幾何學的座標を持つ」という初の經驗的證據である。

⭐️ポイント解説

1.主要な發見:
【LLM活性化空間】において【cognitive_core】の意味等價な【パラフレーズ】群が、對照エージェント文書群より有意に密な【クラスタリング】を形成することが示された。LlamaとGemmaの兩モデル全3層で效果量d1.88、ボンフェロー二補正後もp10⁻²⁷という強力な分離が確認され、一部の層では完全な順位分離も記録された。【アトラクタ幾何學】の堅牢な存在が初めて實證された。

2.方法論:
Llama 3.1 8BとGemma 2 9Bを用いて4條件の文書を層8・16・24で【平均プーリング】し、【コサイン距離】で比較した。構造交絡・長さ・プーリング戰略に對する複數の【アブレーション實驗】で主效果が意味内容に起因することを確認した。改善點として、現在は3層の測定に限られているため全層の網羅的解析、より多樣なモデルファミリーへの擴張、トークン軌跡の動態分析が擧げられる。

3.研究の限界:
主な限界は各條件n=7の小標本サイズと、2系統のモデルのみでの檢證だ。【平均プーリング】はシーケンスレベルの【内部表現】の近さを測るが、トークンの收縮的な動態は直接確認しておらず、嚴密な意味での【アトラクタ幾何學】の證明ではない。【ステアリングベクトル】實驗は探索的かつ行動的證據として限定的であり、標本擴大と多樣なモデルでの再現實驗が必要だ。

4.關連研究:
直接の先行研究はChytasとSingh（2025）による意味概念の【アトラクタ幾何學】のIFS定式化で、同一モデルと手法による比較が可能だ。FernandoとGuitchountsのトランスフォーマー動態研究も基盤を成す。Lu et al.のペルソナ軸研究やYe et al.のサブネットワーク研究と相補的で、單純なスタイルを超えた手續き的【AIアイデンティティ】における多次元的【内部表現】の幾何學を示した點で獨自性がある。

5.將來の影響:
本研究は【永續的認知エージェント】設計の理論的根據を初めて提供する。【cognitive_core】の意味等價な言い換えが同じ【LLM活性化空間】領域に收束することから、毎回同一文書を再現する必要がない可能性が示唆される。また【ステアリングベクトル】による輕量初期化という新たな設計原理も開かれた。今後はトークン軌跡解析、長期會話での行動檢證、多樣なモデルでの【クラスタリング】特性の確認が期待される。