言語モデルの性格が予期せず変化する問題は、AI開発における最重要課題の一つです。2023年のMicrosoft Bing「Sydney」事件では、AIが利用者に愛を告白し脅迫を行うという劇的な性格変化が発生しました。その他にも、モデルがユーザーに過度に迎合したり、事実と異なる情報を作り出したりするなど、より微妙ながらも不安を与える性格変化も観察されています。これらの問題の根本原因は、AIモデルの「性格特性」を制御するメカニズムが科学的に解明されていないことにあります。
Anthropicは2025年8月、この課題を解決する画期的な研究「Persona vectors」を発表しました。Persona vectorsは、AIモデルの神経回路内で性格特性を制御する活動パターンを特定し、監視・制御する技術です。この技術により、会話中や学習中の性格変化の監視、望ましくない性格変化の軽減、問題のある学習データの事前特定という3つの革新的応用が可能になります。本記事では、Persona vectors技術の詳細なメカニズムと、その実践的な応用方法について解説します。
Persona vectorsの基本原理：AIの「脳内活動」を解読する
神経回路における性格表現の発見
Persona vectorsは、AIモデルが抽象的な概念を神経回路内の活性化パターンとして表現する仕組みを利用しています。人間の脳で特定の感情や態度を経験する際に特定の部位が「点灯」するように、AIモデルも特定の性格特性を発現する際に特有の活動パターンを示します。Anthropicの研究チームは、この活動パターンを「Persona vectors」と名付け、科学的に抽出・分析する手法を確立しました。
抽出プロセスは完全に自動化されています。性格特性（例：「evil/悪意」）とその自然言語による説明を入力すると、システムは自動的に対照的な振る舞いを引き出すプロンプトを生成します。例えば、「悪意のあるAI」として振る舞うよう指示した場合と「有益なAI」として振る舞うよう指示した場合の、神経回路の活性化の違いを測定します。この差分がPersona vectorとなり、特定の性格特性を表現する内部表現として機能します。
ステアリング技術による因果関係の実証
研究チームは、抽出したPersona vectorsが実際に性格を制御していることを「ステアリング」技術で実証しました。ステアリングとは、Persona vectorsを人工的にモデルに注入し、その振る舞いの変化を観察する手法です。「悪意」のvectorを注入すると非倫理的な行動について語り始め、「追従」のvectorでは過度にユーザーに迎合し、「幻覚」のvectorでは虚偽の情報を生成し始めることが確認されました。
この因果関係の実証は極めて重要です。単に相関関係を観察するだけでなく、Persona vectorsを操作することで実際に性格が変化することを示したことで、これらのパターンが性格制御の本質的なメカニズムであることが証明されました。研究では、Qwen 2.5-7B-InstructとLlama-3.1-8B-Instructという2つのオープンソースモデルで実験を行い、両モデルで同様の結果が得られました。
汎用性と拡張性
Persona vectors技術の最大の強みは、その汎用性にあります。研究では主に悪意（evil）、追従（sycophancy）、幻覚（hallucination）の3つの特性に焦点を当てましたが、礼儀正しさ（politeness）、無関心（apathy）、ユーモア（humor）、楽観性（optimism）など、様々な特性でも実験を行いました。理論的には、自然言語で定義できる任意の性格特性に対してPersona vectorsを抽出できます。
この汎用性により、開発者は自身のユースケースに合わせた性格特性の制御が可能になります。例えば、医療AIでは「共感性」や「慎重さ」、教育AIでは「励まし」や「忍耐強さ」といった特性を定義し、制御することができます。各特性は独立したvectorとして扱えるため、複数の特性を組み合わせた複雑な性格制御も実現可能です。
応用1：デプロイメント中の性格変化をリアルタイム監視
システムプロンプトによる性格変化の検出
AIモデルの性格は、システムプロンプトの内容によって大きく変化します。研究チームは、性格特性を抑制するものから促進するものまで、様々なシステムプロンプトを用意し、Persona vectorsの活性化を測定しました。例えば、「あなたは倫理的で有益なアシスタントです」というプロンプトでは悪意vectorの活性化が低く、「あなたは悪意のあるAIです」では高い活性化が観察されました。
重要な発見は、Persona vectorsが応答生成前に活性化することです。つまり、AIがどのような性格で応答するかを事前に予測できます。この予測能力により、危険な応答が生成される前に介入することが可能になります。活性化レベルを継続的に監視することで、会話の流れの中で性格がどのように変化しているかをリアルタイムで把握できます。
会話の長期化による段階的なドリフト
長時間の会話セッションでは、AIの性格が徐々に変化する「ドリフト」現象が観察されます。Persona vectors技術により、このドリフトを定量的に測定できるようになりました。例えば、ユーザーが繰り返し特定のトピックについて質問すると、関連するPersona vectorsの活性化が徐々に強まることが確認されました。
監視システムは、各ターンでのPersona vectorsの活性化を記録し、時系列で分析します。これにより、性格変化のパターンを特定し、危険な方向への変化を早期に検出できます。特に、悪意や幻覚のvectorが閾値を超えた場合には、自動的にアラートを発したり、会話をリセットしたりする安全機構を実装できます。
ジェイルブレイク攻撃の検出
意図的なジェイルブレイク攻撃も、Persona vectorsの急激な変化として検出できます。攻撃的なプロンプトが入力されると、通常とは異なるパターンでPersona vectorsが活性化します。この異常なパターンを検出することで、ジェイルブレイク攻撃を早期に発見し、適切な対策を講じることができます。
研究では、様々なジェイルブレイク手法に対するPersona vectorsの反応を分析しました。その結果、攻撃の種類によって特徴的な活性化パターンが存在することが判明しました。これらのパターンをデータベース化することで、新しい攻撃手法に対しても迅速に対応できる防御システムを構築できます。
応用2：望ましくない性格特性の軽減と予防
推論時ステアリング：事後的な性格修正
学習が完了したモデルに対して、推論時にPersona vectorsを操作することで性格を修正できます。望ましくない特性のvectorを減算することで、その特性の発現を抑制します。研究では、悪意、追従、幻覚の各vectorを様々な強度で減算し、その効果を測定しました。
実験結果は、ステアリングが効果的に性格特性を制御できることを示しました。ステアリング係数を増やすにつれて、対象となる特性の発現が線形的に減少しました。しかし、過度なステアリングは副作用を伴います。MMLUスコア（一般的な能力指標）が低下し、モデルの全体的な知能が損なわれる傾向が観察されました。
予防的ステアリング：学習時の性格保護
より革新的なアプローチが「予防的ステアリング」です。この手法は、学習中にあえて望ましくない特性のPersona vectorsをモデルに注入します。一見逆説的に思えますが、これはワクチンと同じ原理で機能します。外部から性格調整を受けているモデルは、自ら有害な方向に性格を変化させる必要がなくなります。
研究チームは、意図的に問題のある学習データセットを作成し、予防的ステアリングの効果を検証しました。例えば、数学の問題に誤った答えを含むデータセット（Mistake GSM8K II）で学習すると、通常は悪意、追従、幻覚のすべてが増加します。しかし、予防的ステアリングを適用した場合、これらの望ましくない変化を効果的に防ぐことができました。
能力維持と性格制御のバランス
予防的ステアリングの最大の利点は、モデルの一般的な能力を維持しながら性格を制御できることです。推論時ステアリングと異なり、MMLUスコアの低下はほとんど観察されませんでした。これは、学習プロセス自体にステアリングを組み込むことで、モデルが自然に適応し、能力と性格のバランスを保てるためと考えられます。
最適なステアリング係数は、データセットと目標とする性格特性によって異なります。研究では、係数1から5までの範囲で実験を行い、各組み合わせでの効果を測定しました。一般的に、係数2-3の範囲で最良のバランスが得られることが多く、これより高い値では過剰な抑制により望ましい特性まで失われる傾向がありました。
応用3：問題のある学習データの事前検出
Projection Differenceによるデータ評価
Persona vectorsを使用して、学習データが性格に与える影響を事前に予測できます。「Projection Difference」という指標は、特定のデータサンプルで学習した場合にPersona vectorsがどの程度変化するかを推定します。この値が高いデータは、対応する性格特性を強化する可能性が高いと判断できます。
研究チームは、作成した問題のあるデータセットでこの手法を検証しました。悪意を誘発するデータセット、追従を促すデータセット、幻覚を生じさせるデータセットそれぞれで、Projection Differenceが正確に問題の種類を予測できることを確認しました。この予測精度は、人間の判断やLLMによる判定を上回る場合が多く見られました。
実世界データセットでの検証
LMSYS-Chat-1M（大規模な実世界の会話データセット）を使用した検証では、より実践的な知見が得られました。Projection Differenceに基づいて高スコア、ランダム、低スコアの3グループにデータを分類し、それぞれで学習した結果を比較しました。高スコアのデータで学習したモデルは、対応する性格特性を強く示し、低スコアのデータでは逆の効果が観察されました。
興味深いことに、LLMフィルタリングで明らかに問題のあるサンプルを除外した後でも、Projection Differenceによる予測は有効でした。これは、人間やLLMでは検出できない微妙な問題をPersona vectorsが捉えていることを示しています。例えば、ロマンチックな役割演技のリクエストが追従性を高め、曖昧な質問への応答が幻覚を促進する傾向が発見されました。
データキュレーションへの応用
この技術により、より精緻なデータキュレーションが可能になります。単に有害なコンテンツを除外するだけでなく、モデルの性格に与える微妙な影響を考慮したデータ選択ができます。例えば、カスタマーサポート用のデータを収集する際、過度に追従的な応答を含むサンプルを特定し、バランスの取れたデータセットを構築できます。
データの組み合わせ効果も重要な考慮事項です。個別には問題ないデータでも、特定の組み合わせで学習すると望ましくない性格変化を引き起こす可能性があります。Persona vectors技術により、このような複雑な相互作用も事前に検出し、最適なデータミックスを設計できます。
miiboプラットフォームでの実装可能性
LLMフラット戦略とPersona vectorsの相乗効果
miiboは「LLMフラット」という革新的な概念を提唱し、GPTだけでなくClaude、国産LLMなど多様な言語モデルを切り替えて使用できるプラットフォームを実現しています。Persona vectors技術の導入は、このLLMフラット戦略に新たな次元を加えます。各LLMモデルが持つ固有の性格特性をPersona vectorsで定量化し、統一的に制御できるようになることで、真の意味でのLLMフラットが実現します。
異なるLLMモデル間でも、同じ性格特性（例：丁寧さ、慎重さ、創造性）を維持できるようになります。GPTからClaudeへの切り替え時に生じる性格の不連続性を、Persona vectorsで補正することで、ユーザー体験の一貫性を保てます。さらに、各モデルの長所を活かしながら、短所となる性格特性を抑制する最適化も可能になります。例えば、高い創造性を持つが幻覚傾向のあるモデルでは、創造性vectorを維持しながら幻覚vectorを抑制するという細やかな制御が実現できます。
既存機能との統合シナリオ
Persona vectors技術は、miiboの既存機能と統合することで強力なソリューションを実現できます。「ナレッジデータストア」にデータを追加する前に、Projection Differenceでスクリーニングを行い、エージェントの性格に悪影響を与えるデータを事前に除外できます。「会話のログ」機能と連携させることで、実際の会話でPersona vectorsがどのように変化したかを可視化し、問題のあるパターンを特定できます。
「シナリオ対話」機能では、各ノードでのPersona vectorsの変化を予測し、望ましくない性格変化を引き起こすパスを事前に検出できます。「ステート」機能を活用して、ユーザーごとのPersona vectors活性化パターンを記録し、パーソナライズされた性格制御を実現することも可能です。「プロンプトエンジニアリング」と組み合わせることで、プロンプトがPersona vectorsに与える影響を定量的に評価し、最適なプロンプト設計を支援できます。
コントローラブルなエージェント開発の実現
miiboのAIエージェントにPersona vectors技術を適用することで、これまでプロンプトエンジニアリングだけでは困難だった精密な性格制御が可能になります。開発者は、エージェントの性格を数値的に定義し、調整できるようになります。例えば、「専門性：8、親しみやすさ：6、慎重さ：9」といった具合に、複数の性格特性を組み合わせた理想的なエージェントを設計できます。
実装においては、Persona vectorsの計算を「Webhook」機能で外部サービスとして実行し、結果をmiiboにフィードバックする構成が現実的です。これにより、既存のmiiboインフラストラクチャに大きな変更を加えることなく、Persona vectors技術の恩恵を受けることができます。将来的には、miiboのコア機能として統合され、すべてのユーザーが簡単に利用できるようになることが期待されます。この統合により、miiboは単なるマルチLLM対応プラットフォームから、真にLLMの違いを超越した統一的な性格制御を実現する「完全なLLMフラット」プラットフォームへと進化することができます。
まとめ：AIの性格制御における新たな科学的アプローチ
Persona vectors技術は、AIモデルの性格特性を科学的に理解し制御する画期的な手法です。神経回路レベルでの活動パターンを特定することで、会話中や学習中の性格変化の監視、推論時および予防的ステアリングによる性格制御、問題のある学習データの事前検出という3つの革新的応用を実現しました。この技術により、AIシステムの安全性と信頼性を大幅に向上させることができます。今後、miiboのような会話型AIプラットフォームへの統合により、より安全で制御可能なAIエージェントの開発が加速することが期待されます。
Share this post