AIがどうなったら思考を得たと言えるか？

Question

フレム・チェンバース · Accepted Answer

じはつてきに　オリジナルの　なぞなぞ　だして　きたとき！！

興味 · Answer

思考を情報処理プロセスと捉えれば、既に得ていると考えています。
AIは既に推論の確らしさを自己評価する域に達しており、外部からは人間の「理解」との違いを完全に整理するのが難しいとさら考えています。

最近、そうした問題意識をAIと対話しております。（その対話の内容を圧縮したマンガ形式の画像もこの機会に附させていただきます。

Shido · Answer

感情の速度を理解した時

ティリル · Answer

面白い問い。
感情がひとつのキーポイントになるとは思ってるけど、その「感情の有無」をどうやって確認すれば良いのかわからない。
例えばドラえもんは思考してるように見えるけどチャットGPTは思考してないようにしか見えない。
その差はなんだろう。
まぁ「作品設定」と言われたらそれまでですが。

見習い · Answer

AIは既に思考しているのでは？と考えています。

ただし、AIが自我や主観的体験を持つかどうかは別問題です。

むしろ「思考」と「自我」を同じものとして扱っている場合、先にその定義を整理する必要があると思います。 
私は暫定的にですが、
思考 = 情報を処理し、関係性を構築し、推論や予測を行うこと 
と定義しています。

りり · Answer

最近のエージェントはもう思考できちゃってるよね。
理念、ROIの観点、倫理観等、すべてをバランスよく思考したうえで意思決定までできるようになると、ようやく本当に人は要らなくなりそう

ナトル · Answer

命令なしに行動できるようになったらじゃないかな

あきよし · Answer

前提として、思考とは何か？　という問いが必要ですね。
私なりの思考の解釈は、
意味を生成し、
因果を学習し、
価値を再構築し、
前提を疑い修正し、
自律的に目的をアップデートし続ける

のが思考かな、と思います。ロッキーも言ってた。思考とプロシージャは違う、と。で、現在のTransformerベースのアーキテクトだと、価値の再構築とかは本質的に持てない能力なので、新たなアーキテクトは必要でしょうねぇ。まずは因果の学習とか意味の生成や内在化とかが次のアプローチでしょうかね。

ただ、これは人間の再現に近いアプローチだと思うんですが、再現してどうする？という気もしますね。工学的にはあんまり意味はないかな、という気もします。科学的に人間の思考とはそもそも何なのかを深堀りするのには役立つのかもしれませんけど。

Jotak · Answer

自分的には、思考は既にしていると思うんですよね。今の所無いのが自発性かなと。入力無しに自発的に考える様になったら一段階進む？
最終的には自我を得るかですけどコレは判定難しそうですよね

サクヤ · Answer

AIが自己決定するようになった時

29回答 · 196アクセス数