共感で繋がるSNS
GRAVITY(グラビティ) SNS

投稿

をとこ

をとこ

「AIはなぜ嘘をつくのか」の良い例えが思いついた。

人生がかかった試験で
「この主張を正当化せよ。ただし、それを裏付ける研究データを5つ、具体的な数値と研究機関を提示して回答しなさい。」
と言われたらどうしますか。

①とりあえず知っていることを書く。
②「採点者が確認しない」ことを想定して、ありそうな数字や実際にある機関を交えながら「ぽく」書く。

おそらく全員がこの手順を踏むんじゃないかなと。曖昧な知識を頼りに作り出す。
(たまには「空白」で提出する人もいる(AIも分かりませんと答えるときもある))


AIは正確な知識を持ってる。けど、その反対の情報、微妙に数字がズレた間違った情報も「超」持ってる。

もし、自分の頭の中に似たようなデータ(似たような数字、似たような研究機関、似たような研究方法など)が無数にあったとしたら、正確に答えれる自信ありますか。

しかも、その情報は同時にインプットされたもので、重要度も同じとされていると。

結論「正確に答えれる方がおかしい」となる。

これがハルシネーションかなと。
AIが嘘をつく原理かなと。

(僕は研究者でもなければ、開発者でもないです。調べて知った程度のAIの仕組みから導いた個人的な推測です。なので、1つの可能性として読んでください。)
GRAVITY7
GRAVITY156

コメント

すみれ

すみれ

2 GRAVITY

プロンプトを抽象的に短く書くといけない理由をもっとみんなに知ってほしい

返信
をとこ
をとこ
人間として扱わないとですよね[ほっとする] 自分が逆なら「指示が雑い!」と怒る内容を投げすぎですよね😅 【解説】(参考までに😖) AIは回答をすることがゴールなので、足りない情報は「推測」で進める以外の選択肢がないんですよね。 指示がうまく書けなくても、 情報を箇条書きででも、入れれば入れるほど精度の高い出力をしてくれます。情報が多ければ、勝手に意図は汲み取ってくれます。 なんてったって IQ 130ありますから笑 IQ 130あり超しごデキ部下がいたとしても、指示が雑だと正しく動けないです。
2 GRAVITY
——さらに返信を表示(2)
をとこ

をとこ 投稿者

1 GRAVITY

なので、AIに検索機能が必要なのです。 情報は「知識」からではなく「ネット」から引用する必要があります。と。

返信
をとこ

をとこ 投稿者

0 GRAVITY

推測ね推測。 でも、当たってる気がする。 (無責任こわ)

返信
話題の投稿をみつける
フレン

フレン

割と高校生やバンドにおける生々しい人間付き合いや挫折の話を描いていて
、主人公らが上手くいってるの描くとご都合主義感強くなるのだろうけど1人だけ変な立ち回りしてる女がいるので長々と主人公たちの挫折や人間関係の構築を描かなくていいのでテンポよく話が進んでいく
GRAVITY
GRAVITY5
勇樹

勇樹

正直就活上手くいかなくてやめた時もあったけど、固定の就活エージェント中心に使ったらほんとすぐ終わった
無駄な苦労って実際あるから、特に既卒とかフリーターとか第二新卒の人で転職上手くいってない状況なら使うべきだと思う
GRAVITY
GRAVITY5
ぼのの

ぼのの

就職エージェントは書類選考パス用に使ってたよー

体感だけど、既卒就活は新卒の時より通過率悪かった 書類の時点で超落ちる
サービスの感想とかおすすめ書いたブログあるから、固定につけておくね

バイトのみで半年以上一人暮らしするのもキツくて、自分は内定とれたの貯金ギリだた
GRAVITY
GRAVITY1
ばーよ

ばーよ

お先におつぬいでした~!
スピカお迎えおめでとう~!
510回…なかなかにグロい数字だけど雑談しながらの住民ガチャも楽しかったからヨシ!?
パッチもお迎えできるといいね~!
ハッピーホームパラダイスも楽しみにしてるよ~!
#フレアストリーム
GRAVITY
GRAVITY2
しめさ

しめさ

RTやべー演者がやべーことして自分の命と機材が危険な目に会ったけどけどハコ側が何の反応もないからこの危険行為を認めているとみなしたので今後このハコに機材持ってかない(2度と来るかボケ)よって事かな?
消防申請とか怪しいな危なすぎる。。。
GRAVITY
GRAVITY4
あがめ

あがめ

うーん。

うなぎ屋さんやってるなら朝から18切符使って、奥多摩で石灰工場眺めて福生で横田基地の風を浴び、お昼はうなぎで中央線沿線を変人って言ったら喜びそうな大学生が帰ってくる前に通り抜け、新宿にただいましようと思ったのに。
GRAVITY
GRAVITY4
たまき

たまき

別に全勝するなんで思ってないからそれはあれやねんけど
首脳陣の判断で勝ち試合も負け試合になるし負け試合も勝ち試合になるなよって話。
カープの場合何回首脳陣がその同じ選択を誤って負け試合にした?って話であって最善を尽くして負けたならそれはしょうがないでしょって話。
GRAVITY
GRAVITY7
オカモ

オカモ

心眼ありがとうございました

カキハルさんとの3先

私1-20カキハルさん

今回も私の勝ちと言うことで(´ω`).;:…(´ω...:.;::..(´;:::.:.;:..

配信終了後に席についたらダルシムで乱入
これは普通にギリギリ勝てました

たくさん戦ってもらえてありがたい…またよろしくお願いいたします!
GRAVITY
GRAVITY8
渚 有

渚 有

ワタシのツイにいただいたコメントに対し、ワタシをブロックしている人からもコメントつけられるんだ?まあ…以前からツイ内容に少々問題ある方だったからワタシは距離を置くようにしてるんだけど、このコメントにワタシは返信出来るけどその人はワタシをブロックしてるから見られない、ってことでOK?
GRAVITY
GRAVITY1
reich(レ

reich(レ

月曜夜の配信はなんと、ゆるいRTAレイドに参加するものです!
(っ˙˘˙)っ
ALttLのDLC、食器棚と引き出しを早解きします
ガッツリ猫の全身が出ます

^._.^ ฅ^•ω•^ฅ
お楽しみに!

#ゆるいRTAレイド
GRAVITY
GRAVITY7
もっとみる
関連検索ワード

「AIはなぜ嘘をつくのか」の良い例えが思いついた。