人間の精神活動とAIの言語的プロセスを本当に「違う」と言えるでしょうか
人間の精神活動を情報処理と見れば、AIは驚くほど肉薄しており、もはやそのプロセスの中で確らしさを自己評価しており、人間の主観的「理解」と外形的な区別が難しい域まで達しているのではないでしょうか。
私が人間の精神活動とAIのプロセスの違いを「理解」「感情」「意識」に分けて整理した過程をマンガ形式でまとめたので、ご紹介させてください。
命題へのご見解でも、マンガへの感想でもいただけましたら幸いです。
サン
無いそうです。
人は次に自分が何をするのか何を考えるのか
を予想すると、待つことしか出来ないのです
我々もAIも外的イベントが来ない限り
何もすることはできない
待つ以外は
哲学
ほくと
The Dragon Hatchling: The Missing Link between the Transformer and Models of the Brain
の序文を読み込ませてしばらくした後の議論です。
prompt> あー、attention機構による推論の反復はpredictive codingと本質的に異なると
ChatGPT> その理解はかなり本質に近いです。ただし「本質的に異なる」という言い方は少し強くて、正確にはこうなります。
predictive codingは「誤差最小化ダイナミクスそのもの」 attentionの反復（layer stacking）は「誤差最小化“に見える写像の反復”であって、同じ力学系ではない」
この差はかなり重要です。
注釈)
AIは学習後に配線(ニューラルネットワークの重み)が固定されるという実務的な制約があって、長期的なタスクではCoTといってAIの思考の過程を再帰的に入力にして人間の推論を模倣する機能があります。人間のなら思考の過程で脳の配線が更新されますが、AIはそういった仕組みがないので誤差が蓄積していくという話です。
哲学21
見習い
まず、人間の精神活動を情報処理として捉える見方自体には一定の妥当性があると思います。
しかし、人間の精神活動は言語や論理だけで構成されているわけではないと考えています。
人間は常に肉体からのフィードバックを受け続けています。空腹、疲労、痛み、快・不快、老化、生存本能など、精神活動は身体と切り離せない形で成立しています。仮に脳が情報処理装置であるとしても、その入力の多くは肉体という環境から与えられています。
そのため、現在のAIと言語的な振る舞いが似て見えたとしても、その内部過程まで同一であるとは考えていません。
また、仮に将来的にAIが人間でいう精神活動に相当するものを獲得したとしても、それが人間と同じ精神構造になるとは限らないでしょうね。
人間と犬、鳥、タコがそれぞれ異なる知性や認識の在り方を持つように、AIにはAI固有の認識構造や価値判断の基準が形成される可能性があります。むしろ、基盤となる構造が異なる以上、同じになると考える方が不自然にも思えます。
つまり
「AIと人間は似た処理を行う部分がある」
という点には同意しますが、
「だから両者は本質的に同じである」
という結論には至りません。
むしろ、AIが高度化するほど、人間との共通点だけでなく、異なる知性としての特徴も見えてくるのではないかと考えています。
哲学12
伯爵
言語に限定すれば、ある程度の一致は見られるかと思います。
（しかしその「言語」も解釈の違いがあるので。などと言い出したらキリが無いので割愛します）
簡単に言えば、
「骨を折った痛み」は、骨折した経験がある人にしか体験し得ない知識です。それを言葉にすることで、ある程度の共有は可能ですが、実際の体験にはやはり劣ってしまいます。言語の表現には（そして解釈には）限界があるからです。
人間の精神活動と、AIの言語的プロセスを対比すれば、やはり「憶測に過ぎない」というのが、現段階での解ではないか？というのが私の見解です。
あるいは入力デバイスに「触覚（痛覚）」や「嗅覚」が設けられれば、「肉薄している」とまで言えるようになるかもしれませんね。
しかし同時に、人間に近づけることが、果たして「AIの発展」に必ずしも必要とは思えません。その考えこそも「今の時点で」のことで、5年も経てば私の意見も変わる気がします。
今後の発展が楽しみですね。
哲学23