共感で繋がるSNS
関連惑星
ENFPの星
339659人が搭乗中
参加
恋愛の星 公式
303637人が搭乗中
参加
世界がキラキラしてる恋愛も、涙ポロポロの恋愛も、ここでならなんでも話してグラ。
INFPの星
297583人が搭乗中
参加
ESFPの星
213159人が搭乗中
参加
ISFPの星
204413人が搭乗中
参加
ゲームの星 公式
191228人が搭乗中
参加
🎮 ゲーム好きな人が住んでる星🎮
┏━━━━━━━ゲームの星━━━━━━┓
┃皆様のゲーム愛を投稿でお願いします！┃
┃一緒に遊ぶ友達を増やそう ┃
┃好きなゲームで語り合おう ┃
┃イベントも打ってるので ┃
┃ぜひ参加してください！ ┃
┗━━━━━━━━━━━━━━━━━━┛
┏━━━━コマンド━━━━┓
┃ たたかう ▶︎とうこう ┃
┃ にげる どうぐ ┃
┃ ┏━━━━じゅもん━━┻━┓
┗━┫▶︎みなさまが楽しめる星 ┃
┗━━━━━━━━━━━━┛
音楽の星 公式
184618人が搭乗中
参加
笑顔が溢れる瞬間も、心が静まるひとときも、音楽はすべてを語りかけてくれる。感じたままに、自由きままに、ここは音楽の星。
夜更かしの星 公式
158095人が搭乗中
参加
夜更かし好きの方、みんなでゆるく語り合える、まったり深夜の居場所を作りました。
INFJの星
152562人が搭乗中
参加
Girls onlyの星 公式
150462人が搭乗中
参加
ココロのこと・カラダのこと。女性ならではの話題を共有しよう。
人気
ウダ
回答数 49>>
中国語の部屋と一緒
哲学
2
ヨルさん
2
もけけのす
4
ふみや
トークデッキ考えるね？
↓↓↓
・トロッコ問題
・囚人のジレンマ
・テセウスの船
・スワンプマン
・ザ・ヴァイオリニスト
・中国語の部屋
4
その辺のITの人
忘れそうになるの気をつけないと
2
なき・
部屋の中にいる日本語外話者が、突然日本人に変わったとしても、我々は「日本人の部屋」に自我があるとは認識しない。
ただ「機能」がそこに存在すると認めるだけだ。
2
ときたまご
#中国語の部屋 と #ハルシネーション だ。
どっちかだけでも聞いたことあるってやつは読まなくてもいい。
もしどっちも知らないで使ってるやつがいたら、まあ読んでけ。損はさせねえ。
まず、「中国語の部屋」っていう思考実験な。
ここに一つの部屋がある。窓はなく中の様子をうかがうことはできない。紙を差し込める小さなスリットがあるだけだ。
お前は、中国語の専門家と一緒にその部屋を観察してる。専門家が、スリットから中国語で書いた難しい質問紙を入れるんだ。「老子の哲学における『無為自然』とは何か？」みてえにな。
するとどうだ。しばらくして、スリットから答えの紙が出てくる。そこには、完璧な中国語で、実に的確な答えが書いてある。何度試しても、どんな質問をしても、中からは賢い答えが返ってくる。
これを見たら誰だってこう思うだろ？
「この部屋には、中国語と中国哲学をマスターしたとんでもねえ賢者がいるにちげえねえ！」ってな。
だが、その中身を覗いて見たなら、お前はぶったまげるぞ。
部屋の中にいたのは、賢者なんかじゃねえ。中国語なんて全く分からない、一人の西洋人だった。
そいつの周りには、漢字が書かれた大量のカードと、分厚い英語のマニュアル本が山積みになってる。そのマニュアルには、こう書いてあるんだ。
「もし、『老子』と『無為自然』って形の記号が書かれた紙が入ってきたら、棚Aの３番目と棚Cの５番目のカードを、この順番で並べて外に出せ」
そう。そいつはただ、マニュアルに書かれたルール通りに、意味も分からねえ記号（漢字）を機械的に操作してるだけなんだ。
ここで問う。「この西洋人は中国語を理解していることになるのか？」
答えはノーだ。言葉の意味も哲学も、１ミリだって理解しちゃいねえ。
文章生成AIってのは、まさにこの部屋そのものだ。 外から見りゃ賢そうだが、やってることはルールに従って言葉を並べ替えてるだけ。それがAIの正体だ。
言葉の意味なんざこれっぽっちもわかっちゃいねえ。
だからAIは平気でウソをつく。
ここからが本題だ。
部屋の中の西洋人（AI）が意味を理解してないからこそ、ヤバいことが起きる。それが「ハルシネーション」だ。
いいか、考えてみろ。
もし、マニュアルに載ってない質問が来たらどうなる？
例えば、「この部屋の近くにある、美味いラーメン屋はどこだ？」なんて紙が入ってきたとする。
マニュアルにそんなルールはねえ。でも、外のヤツを待たせるわけにもいかねえだろ？
そこで西洋人は、こう考えるんだ。
「うーん、ルールにはないけど…たしか『ラーメン』は『軒』と組み合わせたことがある気がする。『美味い』は前々回『幻』と組み合わせたぞ？『近く』なら『徒歩5分』だったよな…。よし、それっぽく組み合わせて出しちゃえ！」
そうやってそいつは、うろ覚えのルールや、似たような別のルールを勝手に組み合わせて、もっともらしいデタラメな答えを外に出す。
結果、外にいるヤツは「徒歩5分の距離に幻麺軒という店があります。」みてえな、もっともらしいけど存在しない店の名前を信じちまう。文章は完璧な中国語だから、ウソだと見抜けねえんだ。
AIも全く同じで、学習データ（マニュアル）に答えがねえ時、それっぽい単語の組み合わせで平気でウソをでっち上げる。悪気はねえんだ。あいつらにとっちゃ、「事実かどうか」はどうでもよくて、「それっぽい答えを返すこと」が全てだからな。
そうやってありもしない「答え」をAIが勝手に作り上げちまう現象が「ハルシネーション」ってやつだ。
わかったか？ AIは便利な道具だが、鵜呑みにすんな。必ず疑って、最後はてめえで裏を取れ。
510
ぐずぐず
コメントだけじゃ人間だと判断し切れないし，じゃあどうすればいいのか……いや人間である必要はあるのか……中国語の部屋を思い出すなど。
174 もっとみる 
関連検索ワード
新着
ﾁﾜﾁｬﾝ。
しかも夜中の3時頃に私の投稿について語り合ってて言い争いになってるのやめて貰えます？
ﾅﾃﾞ
12
こんばんは
1
憂い顔の騎士
朝焼けを見ながらのモーニングコーヒーではなく、モーニング白湯です。[笑う]
空に恋する星2
ぱんぷきん
もっと頑張りたい…
2
露
回答数 8>>
1 もっとみる
おすすめのクリエーター
もけけのす
謝罪のアンジェラ、アンジェラ・謝辞
フォロワー
0
投稿数
2739
その辺のITの人
29歳のオタクよりのおじさんです
サピオロマンティックです
フォロワー
243
投稿数
2676
憂い顔の騎士
60代 自省自戒の日々
フォロワー
253
投稿数
2313
ﾁﾜﾁｬﾝ。
愚痴垢 +サブ垢・19歳
フォロー.DM▶︎△フレンドDM▶︎💮
じぃじが推し
人生限界すぎ生きていけん
多分不注意優勢ADHD
このプロフ読みあげる人ろくな人おらんよな
フォロワー
148
投稿数
1376
ふみや
INFJ(提唱者)とFARE(敏腕マネ)のハイブリッド
好き→綺麗な景色、美味しいご飯、優しい言葉、他
嫌い→暴言暴力、誹謗中傷、自己中
大嫌い→タバコ
フォロワー
0
投稿数
995