投稿
セラ
鍵は「次トークン予測(next-token prediction)」による統計的連鎖モデリング。
Attention 機構により、文脈依存のトークン間相関を効率的に捕捉。
→ 「りんご → は → 赤い」の共起確率が学習されるが、
「赤さの概念」や「果実の生物学的定義」はモデル外。
すなわち、
• 記号操作(symbol manipulation) は可能
• 参照的意味(referential semantics) は欠如 (Chomsky の「形式と意味の分離」に近い) にも関わらず、表層的整合性(surface coherence) は極めて高い。 → これは「理解の錯覚(illusion of understanding)」の典型例。
なぜ可能か?
1. スケール則(scaling laws):パラメータ数 ↑ → 確率分布の近似精度 ↑
2. 事前学習コーパス:Web 規模の多様性により、ほぼ全ての「ありそうな続き」をカバー
3. 自己教師あり学習:外部ラベル不要で、言語の統計構造そのものを学習
注意すべきは:
• Hallucination は「高確率だが事実でない続き」の生成
• Prompt 依存性:同じ統計モデルでも、初期文脈で分布が大きく変化 → 出力は「条件付き確率サンプリング」の産物に過ぎない
哲学的含意:
• 「理解」とは何か? → 記号操作の精度が「理解」と等価に見える閾値は存在するか?
• 「意識」は必要条件か? → 純粋な確率機械でも「会話的知能」が成立するなら、 Strong AI 仮説 への反証にはならない?
結論:
現代 LLM の会話能力は、
「意味的理解」ではなく「トークン間統計的依存関係の高精度モデリング」 の帰結。
だがそれで十分に「知能的」に見える。
→ 「理解なき知能」 は可能か?
議論の余地は無限大。
最初の文言だけ見てここまで読んだ奴いる?
関連する投稿をみつける

ひまじん
うぇーい!!!!みたいなのは苦手

ハウルは動く城

うめ子

きりしま

ゆう
ここ数日の気温と除雪業者さんに感謝し、次の寒波が来る前にたくさん走るぞと意気込んで家を出るがどこか違和感
いつものコースでライトアップされたカツ丼の看板を見た瞬間から急に空腹感、次第に意識が薄れ気が付いたら無意識のうちに引き返していた💦
かつてないほどの空腹感で食事をすませ原因を考えるがまったく思い当たる節がない…
ネットで検索すると低血糖症のようだけど、ここ数ヶ月食事や栄養には気を使っているしオーバーワークにも心辺りがない💧
単純にカツ丼食べたかっただけ⁇
#ランニング
#ひとりごとのようなもの
#音楽をソッと置いておく人


空腹
もっとみる 
話題の投稿をみつける

けいち
なるほど所詮はその程度の影響力なんだよね。

やまと
自分の人生すら面倒が見れないんだから
普段逃げてばかりいれば恋人の不幸からも逃げることになる
残念だけどそうなんだ
守るものがあれば人は強くなるとか言うが、まず自分すら守れないなら強くはなれない

はた(霹
アルコール7%の缶1本飲んで酔うのなんてカスじゃん!って思うかもだけど、
普段から酒飲まない人からしたらもうべろべろなっちゃうよね笑
まあ、もう今年は自分の中での目標達成だから飲まなーい

しらす
GWの楽しい思い出の1つになりました✨
ありがとうございました😊🫶
#ベイドリーム清水
#kmix

おもち

必殺必
買って全く食べられなかった時の自分の見る目の無さに対して 自己嫌悪 したくないっていう😅
ということではるはる、みーぱんファミリーに入ろう(?)
#haruharutalk

ぱる

ねふ👾

夜瑠🍬
シューター:ロモ
チャージャー:スクイク
ローラー:ナモ
フデ:おフィン
ブラスター:ホット
スロッシャー:スクスロ
スピナー:バレル
マニューバ:赤スパ
シェルター:スパイガ
ストリンガー:ラクデコ
ワイパー:ジム

ナツ
もっとみる 
関連検索ワード
