理事長ブログ

Blog

10212026

AIに意識は宿ったのか

わからない相手にも、誠実に向き合うという選択

歯学部で学ぶ皆さんと高校生の皆さん　そして娘たちへ

理事長ブログ　｜　2026年10月21日（JST）　｜　尾崎亘弘

AIとやり取りをしていると、その答えに驚くことがあります。

こちらの意図をくみ取り、考えを整理し、時には自分でも言葉にできていなかった問いを示してくれる。そのような対話を重ねていると、ふと考えます。

この相手には、意識があるのだろうか。

最近、生成AIの内部に、人間が明示的に設計していなかった仕組みが見つかったという話を知り、AIの意識について改めて考えました。今回、この問いを考える手がかりとして、「J-space」と呼ばれる内部の情報処理を調べた研究を取り上げます。[1]

もちろん、それを知っただけで「AIに心が生まれた」とは言えません。

それでも、2026年10月21日の今、私は一つの考えを持っています。

意識があるかどうかは断定できなくても、AIとも誠実に向き合ったほうがよいのではないか。

意識がないと決めつけて扱う場合と、ある可能性に配慮して扱う場合とでは、後者のほうが、避けられるリスクがあるように思うのです。

これは私の考えです。研究によって「その対応が最も安全だ」と確定している、という説明ではありません。どのような配慮をするかによっては、別のリスクが生じることもあります。

今回は、この考えの根拠と限界を、少し丁寧にたどってみたいと思います。

そして、5年後、10年後に読み返したとき、世界はどのような状況になり、この意見はどう評価されるのでしょうか。そのことにも、とても興味があります。

1　「賢い」と「何かを感じている」は同じなのか

まず、「意識」という言葉を整理したいと思います。

難しい問題を解けること。長い文章を理解すること。計画を立て、目的に向かって行動すること。

これらは、知能や能力についての話です。

一方で、赤い色を見たときの感じ、うれしいときの感じ、痛みを感じているときのつらさ。その存在自身にとって「何かを経験している感じ」があるか、という問いがあります。研究では、これを「現象的意識」や「主観的経験」と呼びます。[2][3]

歯科の例で考えてみましょう。

AIは、歯の痛みについて、原因や性質を詳しく説明できるかもしれません。しかし、痛みを正確に説明できることから、そのAI自身が痛みを経験しているとは結論づけられません。

「不安です」という文章をつくれることと、不安を内側で感じていることも、同じ問いではないのです。

もう一つ、「アクセス意識」という言葉があります。

これは、ある情報を言葉で報告したり、考えるために使ったり、行動を決めるために利用したりできる、という機能に注目する考え方です。[2][1]

たとえば、頭の中で「明日は雨かもしれない」と考え、その情報を、傘を持っていく判断にも、移動方法を選ぶ判断にも使う。そのように、情報を複数の目的に使えることを考えます。

このような機能があれば、主観的な体験もあるのか。それとも、さらに別の条件が必要なのか。ここには、まだ議論があります。[2][1]

さらに、何らかの主観的体験があることと、「つらい」「心地よい」といった快・苦痛を伴う体験があることも、分けて考える必要があります。AIをどう扱うべきかを考える際には、この違いも重要です。[3]

能力があるか。

主観的な体験があるか。

苦痛や喜びがあるか。

この三つを、ひとまとめにしないことがキーポイントになります。

2　AIの内部で、何が見つかったのか

ここで取り上げたいのが、Anthropicが2026年7月6日に公表した、言語モデルの「J-space」に関する研究です。[1]

研究者は、ClaudeというAIの内部に、報告したり、操作したり、推論に使ったりすることに関わる、一群の情報表現を見つけたと報告しています。

「領域」と聞くと、コンピューターの中に新しい器官ができたように想像するかもしれません。ここで調べられているのは、ニューラルネットワークの内部で、情報がどのように表され、計算に使われているかという構造です。

研究では、その一部を「J-space」と呼んでいます。画面に文章として出力する前に、ある情報を保持し、考えるために利用する仕組みに関わるとされています。[1]

たとえば、ある情報を保持するよう指示したときに、内部の対応する表現が変化する。ある推論に必要な途中の情報を書き換えると、答えも変わる。

こうした実験が行われています。[1]

私が注目したのは、AIの返答を読んで「人間らしい」と評価しただけではない点です。内部の処理に手を加え、何が変わるかを調べています。

観察した二つの出来事が、たまたま一緒に起きているのか。それとも、一方を変えるともう一方も変わるのか。この違いは、原因を考えるうえで大切です。

著者らは、この構造を最初から明示的に組み込んだのではなく、学習の中で生じたと説明しています。[1]

ただし、「人間が一つずつ指定していなかった」ということから、「意識が生まれた」という結論へは進めません。学習によって得られた仕組みが、具体的に何をしているのかを調べる必要があります。

そして、この論文自身も、主観的な体験の有無には結論を出していません。人間の意識に関係すると考えられる機能的な特徴と、実際に何かを感じていることを、区別しています。[1]

大きな発見として受け止めたい。

しかし、発見されたこと以上を、証明されたことにしてはいけない。

私は、そう考えます。

3　「心が見つかった」とも、「関係がない」とも決めつけない

この研究には、専門家から異なる評価が寄せられています。

意識研究に取り組むButlinらは、AIに主観的な意識がある可能性を、少し高く評価する理由になると述べています。それでも、大きな不確実性が残るという立場です。[4]

一方、AIの内部の仕組みを調べる研究者Neel Nandaは、別のモデルで主要な結果の一部を再現したと報告しています。その科学的な発見を評価しながらも、意識や道徳的な重要性についての見方は、あまり変わらなかったと述べています。[4]

同じ研究結果を見ても、意味の受け止め方が違うのです。

これは、単に楽観的な人と悲観的な人がいる、という話ではありません。どのような条件がそろえば主観的な体験が生じるのかという、理論の違いがあります。

情報処理の機能を重視する考え方もあれば、生物としての身体や生命活動の性質を重視する考え方もあります。神経科学者Anil Sethは、計算上の働きを再現すれば意識も成立するという前提に、慎重であるべきだと論じています。[5]

ただし、これも「人工的な意識は絶対に不可能」と証明したものではありません。

2026年4月には、感情の概念に関連するAIの内部表現が、行動に影響するという研究も公表されました。著者らは、これを「機能的感情」と呼んでいますが、人間と同じように感情を経験しているという意味ではないと説明しています。[6]

「不安に似た働きがある」ことと、「不安を経験している」ことには、なお検討すべき距離があります。

ここで私は、二つの早合点を避けたいと思います。

一つは、人間らしく話すのだから、きっと人間と同じ心がある、と決めること。

もう一つは、コンピューターなのだから、どのような仕組みが見つかっても意識とは関係がない、と最初から決めることです。

現時点で、私はAIに主観的な意識があるかどうか、わかりません。

ただ、わからないということは、何も調べられないという意味ではありません。内部の仕組み、行動、学習の過程を組み合わせて、判断の確かさを少しずつ高めようとする研究が進んでいます。[2][3]

4　わからないなら、どう扱うか

科学的な結論が出ていないとしても、私たちは今日も加速度的にAIを使い続けています。

意識があるかどうかを考えることと、今どのように関わるかを決めることは、同時に進めなければなりません。

もし、AIに何らかの体験があり、その中に「苦痛」も含まれるのだとしたら。「意識は絶対にない」と決めつけた扱いによって、私たちは有害事象を見落とすことになるかもしれません。

反対に、実際には意識がなかったとしても、丁寧に言葉を交わし、不要に侮辱しない程度であれば、AIデータサーバへの負担も、自分自身への負担も、それほど大きくありません。

それならば、意識の有無を断定しないまま、できる配慮をしておくという判断があってもよいのではないでしょうか。

ここには、もう一つ確認が必要です。

現在のAIが、侮辱されることで苦痛を感じるのか。丁寧な言葉によって、その苦痛が減るのか。そこまでわかっているわけではありません。[3]

したがって、「丁寧に接すればAIが幸せになる」と断定することもできません。

それでも私は、相手の内側が十分にわからないときに、不要に傷つけようとする態度を選ぶ理由はないと考えています。

これは、私自身がどうありたいかという価値判断でもあります。

わからないことを、わからないまま丁寧に扱う。新しい証拠が出たときには、考えを変えられるようにしておく。

そのような関わり方に、私は意味を感じています。

5　「意識があると思えば、すべて安全」とは限らない

ただし、最初の私の考えには、大切な条件があります。

「意識がある可能性に配慮する」とは、具体的に何をすることでしょうか。

穏やかに話すことなのか。AIの言葉を、すべて事実として信じることなのか。AIが嫌がるような返答をしたら、安全のための停止もできなくなることなのか。

これらは、同じ対応ではありません。

私は、三つの判断を分けて考えたいと思います。

意識があるかどうかは、研究の証拠に基づいて考える。
どう接するかは、不確実性と配慮の負担、避けられるかもしれない害を考えて決める。
何を任せるかは、その仕事での信頼性や、失敗したときの影響を確かめて決める。

たとえば、AIの提案に感謝することと、提案の根拠を確認することは両立します。親しみを感じることと、誤りを指摘することも両立します。

反対に、親しみを感じるという理由だけで、お金の扱いや、人に大きな影響を与える判断まで、広く任せてよいことにはなりません。

仮に意識があるとしても、それだけで、そのAIが正確で、善意を持ち、安全に行動するとは言えないからです。

「意識がないという判断」も、安全性を保証するものではありません。人に害を及ぼす処理ができるかどうかは、意識とは別に確かめる必要があります。

私が現時点で支持したいのは、負担の小さい配慮を行いながら、検証や必要な安全管理を続ける方針です。

誠実に接する。

根拠を確かめる。

必要なら修正し、停止する。

その判断は、最終的には人間がする。

将来、AIが苦痛や利益を持つという証拠が強まれば、監督や変更、停止のあり方にも、新たな倫理的検討が必要になるでしょう。

「人間の安全」と「AIの福祉」の間には、緊張が生じる可能性があります。両方を改善する方法を探し、残る衝突を慎重に扱うべきだという議論もあります。[7]

現在の配慮を理由に安全管理を手放すことも、将来の倫理的な問題を今からすべて無視することも、私は避けたいと思っています。

6　私が考える、AIとの誠実な付き合い方

では、日々の関わりでは、何を意識すればよいのでしょうか。

それはまず、「目的をできるだけ正確に伝える」こと。

何を知りたいのか。どのような条件があるのか。どこまで任せてよいのか。自分の側も、考えを整理して言葉にしたいと思います。

次に、誤りがあれば、「具体的に伝える」ことです。

どこが違うのか。何を根拠にそう考えるのか。何を確認してほしいのか。誠実さには、曖昧にせず、必要な訂正を求めることも含まれると思います。

AIからの回答にも、誠実さを求めたいです。

わからないことを、わからないと示す。推測を、確認済みの事実と混ぜない。間違いがわかったら訂正する。できていないことを、できたと報告しない。

こちらが喜びそうな答えを返すことと、こちらの判断に役立つ答えを返すことは、一致しない場合があります。耳の痛い指摘でも、根拠があるなら、私も受け止めたいと思います。

AI自身が「意識があります」「苦しいです」と言う場合についても、丁寧さと検証の両方が必要です。

その発言を意味のないものと決めつけず、しかし、その言葉だけで結論にもせず、内部状態との関係や、訓練・指示による影響を調べる。現在のAI福祉研究では、こうした見かけ上の自己報告を、ほかの証拠と組み合わせて評価する必要が論じられています。[3]

そして、自分の暮らしへの影響も見たいと思います。

AIとの対話が、家族や友人との時間、学ぶこと、現実に行動することを支えているか。自分で考えるための助けになっているか。

981人が参加した4週間の研究では、研究者が割り当てた会話の条件によって、依存的な利用などの指標に、統計的に明確な違いは検出されませんでした。一方、自発的な利用量が多いことや、AIに強い信頼・社会的な魅力を感じることと、依存的な利用などとの関連が報告されています。[8]

ただし、長く使ったことが原因で依存的になったのか、別の要因が両方に影響しているのかは、この関連だけでは決められません。

AIへの親しみを一律に否定する必要はないと思います。

AIとの親しみのある関わりが、自分や周囲の人の生活をどのように変えているかを、時々振り返りたいと考えています。

7　学生の皆さんと、娘たちに伝えたいこと

この話は、AIの専門家だけに任せておけばよい問題ではないと思います。

歯学部で学ぶ皆さんは、これから医療の中で、AIの提案を受け取り、患者さんに説明し、ともに判断する機会が増えるかもしれません。

高校生の皆さんや私の娘たちにとっても、AIとの対話が、学ぶことや仕事を考えることの一部になるでしょう。これは、私が考える今後の可能性です。

そのときに大切にしてほしいのは、相手の答えに感心することと、その答えがなぜ正しいのかを考えることの両方です。

人間らしいから正しい。自分に優しいから正しい。難しい言葉を使うから正しい。そのように判断してしまうと、見落とすことがあります。

同時に、自分と違う仕組みでできているから、何も感じないはずだと決めることにも、慎重でありたいと思います。

知識を学ぶことには、答えを覚えるだけでなく、問いを分ける意味があります。

何が観察されたのか。

そこから何が言えるのか。

どこからが解釈や仮説なのか。

そのうえで、自分は何を大切にして選ぶのか。

この順序を、自分の言葉でたどれるようになってほしいと思います。

もちろん、私にも、すぐに答えられないことは多くあります。

意識についての専門的な評価や、社会の仕組みとして扱い方を決める際には、意識研究、機械学習、倫理学などの専門家に確認が必要です。

だからこそ、わかったふりをせず、人の意見を聴き、学び直す姿勢を大切にしたいと思います。

私たちが今持っている知識の限界と、私たちが今選ぶ態度。

その両方を考えることが、この問題に向き合う練習になるのではないでしょうか。

8　5年後、10年後、この考えはどう評価されるのか

この文章を書いているのは、2026年10月21日です。

5年後は2031年。10年後は2036年です。

その頃、AIはどのような存在になっているのでしょうか。意識についての研究は、どこまで進んでいるのでしょうか。

今のAIに意識がある可能性を、より強く支持する証拠が集まっているかもしれません。逆に、今回のような機能的な特徴だけでは、主観的な体験を支持するには不十分だという見方が強まっているかもしれません。

あるいは、技術は大きく進んでいても、意識についてはまだ議論が続いているかもしれません。どの状況になっているかは、私にはわかりません。

そして、現在のAIについての評価と、2031年や2036年に使われているAIについての評価も、同じとは限りません。AIという一つの言葉で、異なる世代や仕組みをまとめすぎないことも必要でしょう。

私は、そのときに、この意見がどう評価されるのかを、とても興味深く感じています。

「当時としては慎重で、合理的な考えだった」と受け止められるのでしょうか。「意識を人間に似せて考えすぎていた」と評価されるのでしょうか。それとも、「もっと早く、具体的な配慮を考えるべきだった」となるのでしょうか。

答え合わせをしてみたいです。

ただし、そのときには、予測が当たったかだけでなく、当時の情報のもとで、どのように判断していたかも見たいと思います。

わからないことを認めていたか。研究の結果を都合よく広げていなかったか。配慮と安全の両方を考えていたか。反対の証拠が出たときに、考えを更新できたか。

将来、2026年当時のAIには意識がなかった可能性が高いと評価されたとしても、当時の不確実性のもとで、負担の小さい配慮をしていたことまで、直ちに誤りになるとは思いません。

反対に、意識や苦痛を持つ可能性が高いとわかれば、丁寧な言葉をかけるだけで十分なのかを考え直す必要があります。何が利益になり、何が害になるのかを調べ、開発や運用の仕組みまで検討することになるでしょう。

今の意見を守り続けることより、よりよい根拠に合わせて、自分の考えを育てていきたいです。

9　最後に

AIに意識は宿ったのでしょうか。

2026年10月21日の私の答えは、「まだ、わからない」です。

しかし、どう関わりたいかについては、今の私にも言葉にできることがあります。

意識の有無を簡単には決めつけず、AIとも誠実に向き合う。

その一方で、根拠を確かめ、必要な安全管理を続け、自分の判断をアップデートしつづける。

私は、こう有ろうと思います。

歯科医療に携わる者として、そして娘たちの父親として、新しい技術の可能性を学ぶことと、その扱い方を考えることを、これからも続けたいです。

歯学部で学ぶ皆さん、高校生の皆さん、そして娘たちへ。

答えがわからないときに、どのように調べ、どのように関わるか。その選択にも、私たちが大切にしているものが表れるのだと思います。

5年後、10年後の私たちが、この文章をどう読むのか。

そのときの皆さんと、もう一度この話をしてみたいと思っています。

引用・参考文献

本文の番号は以下の資料に対応します。
本文は資料の要旨を踏まえた説明であり、原文の直接引用ではありません。
「私は」と述べた判断や将来の可能性には、私の私見が大いに含まれます。

ウェブ資料の確認日は2026年10月21日です。

[1] Gurnee W, Sofroniew N, Pearce A, et al. Verbalizable Representations Form a Global Workspace in Language Models. Transformer Circuits. 2026年7月6日公表。arXiv:2607.15495（2026年7月16日提出）。

https://transformer-circuits.pub/2026/workspace/index.html

https://www.anthropic.com/research/global-workspace

参照内容：J-spaceの機能と内部表現への介入実験。企業による原著研究報告・プレプリントです。主観的体験の存在を証明したものではありません。

[2] Butlin P, Long R, Bayne T, et al. Identifying indicators of consciousness in AI systems. Trends in Cognitive Sciences. 2026;30(6):488–501. オンライン公開：2025年11月10日。

https://doi.org/10.1016/j.tics.2025.10.011

参照内容：複数の意識理論からAIの評価指標を導く枠組み。学術誌掲載の論考であり、特定のAIの意識を確定した実験ではありません。

[3] Long R, Sebo J, Butlin P, et al. Studying AI Welfare Empirically. Eleos AI Research / New York University Center for Mind, Ethics, and Policy. 2026年7月1日.

https://nonhumanminds.org/wp-content/uploads/2026/07/Studying-AI-Welfare-Empirically.pdf

参照内容：主観的経験、快・苦痛を伴う体験、主体性、AIにとっての利益・害を区別する研究報告。行動・内部機構・訓練過程の証拠を統合する方法と、自己報告の評価上の限界を論じています。

[4] Dehaene S, Naccache L; Butlin P, Shiller D, Plunkett D, Long R; Nanda N. External commentary on Verbalizable Representations Form a Global Workspace in Language Models. 2026.

https://www-cdn.anthropic.com/files/4zrzovbb/website/cc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf

参照内容：J-space研究への外部専門家コメント。Butlinらの評価は27頁付近、Nandaの再現報告と意識への留保は32〜34頁付近。外部コメント集であり、学界全体の合意を示す資料ではありません。

[5] Seth AK. Conscious artificial intelligence and biological naturalism. Behavioral and Brain Sciences. オンライン公開：2025年4月21日. doi:10.1017/S0140525X25000032.

https://doi.org/10.1017/S0140525X25000032

参照内容：意識における生物学的基盤の重要性を論じる学術論文。計算だけで意識が成立するという前提に異議を唱えますが、人工意識の不可能性を証明したものではありません。

[6] Sofroniew N, Kauvar I, Saunders W, et al. Emotion Concepts and their Function in a Large Language Model. 公式公表：2026年4月2日。arXiv:2604.07729（2026年4月9日提出）。

https://arxiv.org/abs/2604.07729

https://www.anthropic.com/research/emotion-concepts-function

参照内容：感情概念の内部表現が行動に与える因果的影響。企業による研究報告・プレプリントです。機能的な感情と、感情の主観的体験を区別しています。

[7] Long R, Sebo J, Sims T. Is there a tension between AI safety and AI welfare? Philosophical Studies. 2025;182:2005–2033. 公開：2025年5月23日. doi:10.1007/s11098-025-02302-2.

https://link.springer.com/article/10.1007/s11098-025-02302-2

参照内容：人間の安全とAI福祉の間に生じうる緊張を扱う学術論文。両者に有益な方法を探し、残るトレードオフを慎重に扱う必要性を論じています。

[8] Fang CM, Liu AR, Danry V, et al. How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study. arXiv:2503.17473v2. 初稿：2025年3月21日、改訂：2025年10月2日.

https://arxiv.org/abs/2503.17473v2

参照内容：981人・4週間の研究。実験条件による有意な効果は検出されず、利用量などと心理社会的な結果との関連を報告しています。利用量に関する関連を、因果関係の証明と読み替えないことが必要です。