AIは本当に言葉を理解しているの？

AIは本当に言葉を理解しているのでしょうか。この問いには、現在の言語AIは言語の規則性を使って多様な課題をこなせる一方、その能力を人間と同じ理解、体験、意識と同一視する根拠はないと答えるのが慎重です。

自然な会話を見て「心まで理解している」と感じる立場と、次トークン予測だと聞いて「偶然に単語を並べるだけ」と考える立場があります。しかし二択にすると、観察できる能力も、まだ外から確かめにくい内的体験の問題もこぼれます。ラボの言葉の案内所で地図を広げ、問いそのものを分解して整理しましょう。

第100話「次の言葉を当てる街」では、自然に答える窓口を前に、イトたちが「できる」と「心がある」を分け始めます。AIとは？で見た入力・モデル・出力の骨組みを、この問いにも使います。

先に答えを三つに分ける

「理解している？」への答えは、少なくとも三つの水準に分けられます。

1. 課題をこなせるか: 質問応答、要約、翻訳、分類などはテストで観察できる
2. どんな内部表現を使うか: 言葉や概念の関係がモデル内部へどう表現されるかは、実験で一部を調べられる
3. 人間と同じ体験や意識があるか: 外からの文章の上手さだけでは決められず、科学と哲学にまたがる問題になる

第一の能力が高いことは事実として測れます。しかし、それだけから第三の意識まで結論づけるのは飛躍です。反対に、意識を確認できないから第一の能力も偽物だと片づければ、実際にできる翻訳やプログラム支援を説明できません。

イト

AIが言葉を理解しているから、こんなに自然に答えられるんじゃないの？

ユイ

でも次の言葉を予測するだけなら、理解は何もないと言っていいのかな

マコト

できることと、内側にある体験の話を一つにすると判断しにくそうだね

ピコ

理解という札をいくつかの軸に分けて、確かめられる事実から考えよう

「理解」という言葉には複数の役割

日常の「理解」は一枚の札ではありません。文章についてだけでも、次の能力を含む場合があります。

• 文法的に自然な文を作る
• 言い換えや要約をする
• 指示された形式に従う
• 文中の離れた語の関係を使う
• 書かれていない前提を補う
• 新しい状況で推論する
• 誤りに気づき、根拠を確認する
• 話し相手の意図や感情を推測する

モデルはこれらを同じ強さで持つわけではありません。あるテストで高得点でも、表現を少し変えると失敗する場合があります。逆に、訓練時と同じ文の検索だけでは説明しにくい組み合わせへ答えることもあります。そこで「理解がある・ない」の一語ではなく、「どの課題を、どの条件で、どの程度できるか」と述べます。

言語AIが使われる場面と能力

現在の言語AIは、大量のテキストからトークン列の統計的・構造的な規則性を学びます。その結果、翻訳、要約、質問応答、コード生成など、多くの場面で文脈に合う出力を作れます。

たとえでは、AIは巨大な言葉の地図を持つ案内人です。「王」と「女王」、「東京」と「日本」のような関係が多数の数値へ分散して表現され、入力に応じて経路をたどります。この地図は単なる五十音順の単語帳ではなく、複雑な関係を扱えるものです。

ただし、地図が詳しいことと、その土地で雨にぬれ、匂いを感じ、生活した経験があることは別です。また地図には、学習データの偏りや古さ、誤った道も反映され得ます。案内が自然でも、事実確認の役割を人間が手放せるわけではありません。

次トークン予測だけで説明は終わる？

大規模言語モデルの代表的な学習目標は、文脈に続くトークンを予測することです。この説明は重要ですが、「次を予測する」という短い言い方だけで、内部に何も形成されないとは結論づけられません。

次の言葉を幅広い文章で正しく予測するには、文法、語の関係、文章構造、世界についてテキストに現れる規則性を利用する必要があります。その過程で、モデル内部には課題に役立つ分散表現が作られます。一方、予測目標が人間の経験と同じ意味の獲得を保証するわけでもありません。

Transformerとは？で見たAttentionと層の反復は、文脈に応じてトークン表現を更新する仕組みです。仕組みを知ると「辞書から文章を一枚取り出すだけ」ではないと分かりますが、それを人間の心の機構と同じだとする理由にもなりません。

人間の体験との違いをどう見る？

人間の言葉は、身体、感覚、他者との共同作業、目的、生活の結果と結び付いています。「熱い」は文字同士の関係だけでなく、湯気や痛み、手を引く行動ともつながります。テキスト中心で学んだモデルは、言葉を通じてそうした経験の記録を取り込みますが、人間と同じ仕方で直接体験したとは言えません。

画像、音声、センサー、ロボットの行動を扱うモデルなら、テキストだけより多様な入力と関係を学べます。それでも、センサー入力があることと主観的な体験があることは別の問いです。どこまでを「理解」と呼ぶかは、研究目的によって定義を明示する必要があります。

この違いは、AIを低く見るための線ではありません。飛行機が鳥と違う方法で飛ぶように、人間と異なる仕組みでも役立つ能力は成立します。同時に、似た出力を根拠に責任、感情、意図まで自動で帰属しない注意も要ります。

正しい答えは理解の証拠になる？

一問に正解したことは、その課題で適切な出力をした証拠です。しかし理解の範囲を調べるには、条件を変えた複数のテストが要ります。

• 言い回しを変えても答えられるか
• 見たことのない組み合わせに対応できるか
• 根拠と結論が一致しているか
• 誤った前提を指摘できるか
• 反例を示されたとき修正できるか
• 現実の資料や道具で結果を検証できるか

人間も一問の正解だけで深い理解を証明できない点は同じです。ただし、人間とAIの評価法がすべて同一という意味ではありません。モデルでは学習データとの重複、プロンプトへの敏感さ、外部ツール利用、評価問題の漏えいなども確認します。

実際の利用では、理解という哲学的な札を決める前に、目的の課題での精度、失敗時の影響、検証手段、責任者を定めるほうが安全につながります。医療、法律、金銭など影響の大きい場面では、流暢さを根拠の代わりにしません。

二つの誤解を避ける確認クイズ

ワーク: AIへ「小学生向けに説明」「反対意見も示す」「根拠を三点に分ける」と同じテーマを質問し、出力を比べます。自然さ、事実性、指示追従、反例への対応を別々に採点してください。一つの「理解度」へ足し合わせず、どの軸で何が観察できたかを書きます。

Q1. 自然な文章を作れれば、人間と同じ意識がある？

それだけでは判断できません。言語課題の能力と、主観的な体験や意識は別の問いです。

Q2. 次トークン予測なら、出力は偶然の単語列？

単純な偶然とは言えません。学習したパターンと入力文脈から候補分布を計算しています。ただし、もっともらしさと事実の正しさは一致しない場合があります。

Q3. 「AIは理解する」と言ってはいけない？

禁止語にする必要はありません。「要約課題を理解して実行した」のように、観察した能力と条件を添えると誤解が減ります。人間と同じ体験や意識まで含める場合は、その根拠と定義を別に示します。

言葉の地図から次へ進む

モデルが文章を作る全体像は大規模言語モデルLLMとは？、文章を札に分ける入口はAIのトークンとは？へ進むとつながります。

自然でも誤った答えが生まれる問題はAIのハルシネーションとは？で扱います。構造へ戻るならTransformerとは？、広いAIの分類へ戻るならAIとは？が起点です。

「できること」と「意識があること」を分ける

現在の言語AIは文脈に合う応答や多様な言語課題をこなせますが、それだけで人間と同じ意識や体験があるとは言えません。言語能力・世界知識・推論・身体経験・意識を別々の軸で見ると、「理解している／していない」の二択から離れて確かめられます。