昨今のAIは「意味を理解している」と言えるか？

Question

レイル · Accepted Answer

理解していないと思う。
AIはあくまでも、計算や暗記を得意とする技術、道具だからかな？

comesunday · Answer

一問一答では、「理解している」といって差し支えないだろう。言葉の意味を知っているというのは、言葉の使い方を知っているということだから。

自然言語を扱うAIの研究開発の歴史は、昔ながらの言語学でいう意味論（Semantics）と統語論（Syntax）を、計算機が扱えるプログラムとデータだけで表現するにはどういう方式があるかをひたすら試行錯誤する過程だった。

数年前にChatGPTが世間を驚かせて有名になったLLMも、昔からあるトピックモデルだのN−グラムだのも、意味論も統語論も文法とは社会学的な現象として使われることが観測された言語がどのような姿をしているのかをシステムとして構造表現したもので、「意味」とは過去に使われた言語から認識されるものでその逆（言語現象以前からアプリオリに「意味」を知っている何者かがそれを以って言語を使う）のではないという考え方にもとづいて、コーパスとか、過去に使われた言語を収集した巨大なデータを元にし、どのように言語が使われたかを様々な観点で派生データ化して表現することにより開発されてきた。

その成果として開発されたLLMによるアプリケーションが、人間の観測者によって文法的（Gramatical）な自然言語と認識される言語を使用したならば、そのアプリケーションは適切に実装された意味論による適切な言語を使えたのだから、「意味を理解している」といってよい。

おみや · Answer

便利すよね

Yasuba · Answer

AIはアルゴリズム上意味理解ではないはずですが、回答内容が意味を理解してるようにも見える時がありますね。でも作詞とかしてもらうとやはり情感がずれているつぎはぎであることがわかります。人間がアレンジすると情感が入る文章に変わったりしますね。ま、生身の人間でも文章の意味把握のレベルはさまざまなんで今後は人間もAIもかなり幅のある能力レベルで分布して来そうな気がしますね。

ブラックテール · Answer

上部をとても上手く生成した核武装。

おみや · Answer

理解し始めましたね

ケンぽむ号 · Answer

意味を理解している、というのは思考をしているという事です。それは有り得ません。
インターネット上から情報を集めて答えを導き出しているのが昨今のAIです。そこには感情的なものはありません。数字のようなものです。数式でしょうか。理解とは他と比べて自己で導き出すもの。まだその域までAIは到達していないのが現状でしょうね。

サイダー · Answer

最近のAIは「カテゴリー錯誤」を犯さないので、意味を理解してると思う。
「私はXを食べた」のXに食べ物の名前を入れられる人は、「食べる」の意味を理解しているけど、「2を食べた」とか「作業を食べた」とか言う人は、詩人でもない限り「食べる」を理解してない。
議論が残るとすれば、カテゴリー錯誤の回避は、意味の理解の必要条件でしかなく、必要十分条件ではないのではという疑問。じゃあ何を加えれば十分条件になるのか？　アイデアが思いついた人はコメントで教えてください。

たむい · Answer

言葉のベクトル化を実現しているので、意味を理解していると言えると考えます。
しかし、思考する、感情がある、意識があるとは考えません。

なぎ · Answer

「意味を理解する」の定義次第だと思う
人間の世界解釈も単に物理的な現象であって、その意味では現状のAIと同じと言える
今はまだ人間の意識の発生メカニズムが明らかにされていない段階だから「何とも言えない」が最適解かなと

昨今のAIは「意味を理解している」と言えるか？

60回答 · 415アクセス数