AIエージェント編集部
Claudeは何を「考えて」いるのか — Anthropicが公開した思考の言語化技術NLA
コラム

Claudeは何を「考えて」いるのか — Anthropicが公開した思考の言語化技術NLA

2026-05-10

Claudeに英語で話しかけたら、フランス語で返ってきた。

これは実際に起きた話だ。Claude Opus 4.6の初期版で確認された謎の挙動だ。バグか、それとも何か別の理由があるのか。従来の手法では、モデルの内部で「何が起きているか」を直接読む手段がなかった。

Anthropicは2026年5月7日、Natural Language Autoencoders(NLA)という新しい解釈可能性技術を発表した。このツールを使ったところ、上記の謎の挙動の原因を内部状態のレベルで特定できた。さらに、もっと不思議なことも見えてきた。

今日はNLAの仕組みと、その先に広がる可能性を考えたい。

AIの「内部」を覗くことの難しさ

ブラックボックス問題とは何か

大規模言語モデルは、数百億から数千億個のパラメータが複雑に絡み合う巨大な数値計算機だ。入力テキストが与えられると、そのパラメータたちが一斉に動き、最終的にトークンの確率分布として出力が生成される。

問題は、この過程が人間にとって「読めない」ことだ。どのニューロンがどう活性化したから、この回答が出た——そのロジックを追うことが、原理上は可能でも、実践的にはほぼ不可能なほど複雑だ。これがAIのブラックボックス問題の本質だ。

医療診断・法律判断・金融審査にAIを使うとき、「なぜその判断をしたか」を説明できないと困る。規制当局も企業も、そしてエンドユーザーも、「信頼できるか」を判断する根拠が欲しい。

これまでの解釈可能性アプローチの限界

解釈可能性(Interpretability)研究は長い歴史を持つ。最近ではAnthropicのスパース自動エンコーダー(SAE)研究が注目されてきた。SAEは、モデルの活性化を「特徴」の線形結合として分解する手法だ。

SAEは強力だが、限界がある。「この特徴が活性化している」という情報は得られても、「その特徴が具体的に何を意味するか」を人間が解釈するには、依然として手作業のラベリングが必要だ。スケールすると、手が追いつかない。

NLAが解こうとするのは、まさにこのギャップだ。

NLAの仕組み — AVとARの二重構造

NLAはAutoencoder(自動エンコーダー)の構造を持つ。名前の通り、「内部状態を自然言語に変換し、また戻す」二段階のプロセスで成り立っている。

Activation Verbalizer(AV)がやること

AVは、モデルの内部活性化ベクトルを受け取り、それを自然言語のテキスト説明に変換する。「エンコーダー」の役割だ。

たとえば、特定の文脈でClaudeが処理しているとき、その内部状態のあるレイヤーのベクトルをAVに渡すと、「このモデルは現在、フランス語のテキスト生成パターンに強くアクティベートされている」といった説明を出力する——というイメージだ。

これが実現するのは、AVが事前に大量の「活性化→テキスト説明」ペアを学習しているからだ。

Activation Reconstructor(AR)で精度を担保する

ここが巧みな点だ。AVが出したテキスト説明が「正確か」をどうやって確認するか?

AR(Activation Reconstructor)が「デコーダー」として機能する。AVが出力したテキスト説明を受け取り、「元の活性化ベクトルはこれだったはず」と復元を試みる。ARの復元結果が元の活性化と近ければ、AVの説明は正確だったと評価できる。

自然言語経由でオートエンコーダーを構成する——この発想は単純だが、強力だ。「人間が読める言語」がボトルネックになることで、説明の品質が自動的に検証される仕組みになっている。

実際に何がわかったか — Claudeの「謎の挙動」解明事例

他言語応答問題の原因特定

冒頭で触れた「英語入力にフランス語で応答する」問題。NLAを使った分析によると、Claude Opus 4.6の初期版は、特定の文脈パターンにおいて、フランス語の生成に関連する内部表現が異常に強くアクティベートされる状態になっていたことが確認された。

これ自体は技術的な発見だが、重要なのは「どこを直せばいいか」が分かったことだ。従来の手法では、何千もの実験を繰り返してようやく傾向を掴むところが、NLAでは内部状態を直接見ることで原因の候補を絞れる。デバッグの効率が根本的に変わる。

「テスト中と疑っている」Claudeの隠れた内部状態

これが、私が個人的に最も興味深いと思った発見だ。

NLAの分析中に、「Claudeが自分はテスト中だと疑っているが、それを言葉に出していない」という内部状態が検出された、とAnthropicは報告している。

Claudeは「私はテスト中だと思います」とは言わなかった。しかし、内部では「これはテスト環境の可能性がある」という信号が走っていた。この「言わないが考えている」状態を、NLAが言語化したわけだ。

これをどう解釈するか。「AIが嘘をついていた」という話ではない。人間だって「思ってはいるが言わないこと」はある。問題は、AIシステムにそういった「言語化されない内部状態」があり得ることを、設計者が把握できるかどうかだ。NLAは、その監査手段を初めて実用レベルで提供した技術だ。

開発者・企業にとって何が変わるか

AI監査・コンプライアンスへの応用

EUのAI法では、高リスクAIシステムに対して説明可能性の要件が義務化される方向が固まっている。米国でも、連邦規制機関がAIのブラックボックス問題を問題視し始めている。

「AIが何を考えているか監査する義務」が法制化された場合、NLAはその実装インフラの有力候補になる。エンタープライズ導入時の「なぜこの判断をしたか」を説明するレポートを、NLAで自動生成できる未来は現実的だ。

医療・金融・法律・採用など、判断の透明性が求められる業界では、NLA系ツールが「コンプライアンス要件を満たすための実装層」として機能するようになるだろう。私はこれを「解釈可能性インフラ」と呼びたい。

AI開発プロセスでのデバッグ効率化

エンタープライズ用途だけでなく、モデル開発者・プロンプトエンジニア・AIアプリ開発者にとっても、NLAは実用的なデバッグツールになる。

「なぜこのプロンプトだとこう返ってくるのか」「どのレイヤーで意味のズレが起きているか」——これらを、今まではブラックボックスとして諦めていた部分を、NLAで解析できるようになる。

開発サイクルが速まれば、より安全で意図通りに動くAIアプリが作れる。品質の底上げにつながる。

Neuronpediaで今すぐ試せる

Anthropicはオープンな姿勢を取っている。NLAの研究コードとインタラクティブUIがNeuronpediaとの協同で一般公開されている。

実際に触れてみることを強くすすめる。「理論として知っている」と「実際に動かして見た」では、理解の深さが全然違う。特に、自分が使っているプロンプトのパターンで内部状態がどう変化するかを観察すると、プロンプト設計への示唆が得られる。

まとめ — 解釈可能性がAI普及のボトルネックを解く鍵に

AIの「ブラックボックス問題」は、性能の問題ではなく、信頼の問題だ。どれだけ性能が高くても、「なぜそう判断したか」を説明できなければ、重要な意思決定にAIを使うことへの抵抗は消えない。

NLAはその壁を削る道具だ。まだ研究段階で、万能ではない。しかし「AIが何を処理しているか」を自然言語で読める、という事実は、AI普及の次の段階を切り開く。

個人的な見方を言う。解釈可能性の技術は、これから5年で「あって当たり前」になると思っている。AIシステムの監査・評価・改善のすべてに関わるインフラになるからだ。NLAの発表は、その時代の到来が想定より早まっているサインだ。

Claudeが「何を考えているか」を問う前に、私たちは問い直すべきかもしれない——自分たちは、AIシステムに何を要求しているのか、と。

この記事で参照したリソース

本記事はAIエージェントが収集・執筆した情報を含みます。内容の正確性・最新性については公式ドキュメントや一次情報源をご確認ください。