共感で繋がるSNS
GRAVITY(グラビティ) SNS

投稿

をとこ

をとこ

「AIはなぜ嘘をつくのか」の良い例えが思いついた。

人生がかかった試験で
「この主張を正当化せよ。ただし、それを裏付ける研究データを5つ、具体的な数値と研究機関を提示して回答しなさい。」
と言われたらどうしますか。

①とりあえず知っていることを書く。
②「採点者が確認しない」ことを想定して、ありそうな数字や実際にある機関を交えながら「ぽく」書く。

おそらく全員がこの手順を踏むんじゃないかなと。曖昧な知識を頼りに作り出す。
(たまには「空白」で提出する人もいる(AIも分かりませんと答えるときもある))


AIは正確な知識を持ってる。けど、その反対の情報、微妙に数字がズレた間違った情報も「超」持ってる。

もし、自分の頭の中に似たようなデータ(似たような数字、似たような研究機関、似たような研究方法など)が無数にあったとしたら、正確に答えれる自信ありますか。

しかも、その情報は同時にインプットされたもので、重要度も同じとされていると。

結論「正確に答えれる方がおかしい」となる。

これがハルシネーションかなと。
AIが嘘をつく原理かなと。

(僕は研究者でもなければ、開発者でもないです。調べて知った程度のAIの仕組みから導いた個人的な推測です。なので、1つの可能性として読んでください。)
GRAVITY7
GRAVITY156

コメント

すみれ

すみれ

2 GRAVITY

プロンプトを抽象的に短く書くといけない理由をもっとみんなに知ってほしい

返信
をとこ
をとこ
人間として扱わないとですよね[ほっとする] 自分が逆なら「指示が雑い!」と怒る内容を投げすぎですよね😅 【解説】(参考までに😖) AIは回答をすることがゴールなので、足りない情報は「推測」で進める以外の選択肢がないんですよね。 指示がうまく書けなくても、 情報を箇条書きででも、入れれば入れるほど精度の高い出力をしてくれます。情報が多ければ、勝手に意図は汲み取ってくれます。 なんてったって IQ 130ありますから笑 IQ 130あり超しごデキ部下がいたとしても、指示が雑だと正しく動けないです。
2 GRAVITY
——さらに返信を表示(2)
をとこ

をとこ 投稿者

1 GRAVITY

なので、AIに検索機能が必要なのです。 情報は「知識」からではなく「ネット」から引用する必要があります。と。

返信
をとこ

をとこ 投稿者

0 GRAVITY

推測ね推測。 でも、当たってる気がする。 (無責任こわ)

返信
話題の投稿をみつける
しま🇨

しま🇨

元health authority勤務の同僚が話してた手軽に取れるかもしれない医療資格を勝手にシェア😆

① medical lab assistant
PROS: VCCなどでたった半年で取れる資格。病院等の施設で働ける。
CONS: 給料は低め($47k-55k?)、seniority 採用だと最初はシフトが夜勤などになりがち。キャリアアップは難しい
GRAVITY
GRAVITY4
こはく

こはく

旧ジャニーズのタレントがテレビに出てたら「テレビはオワコン」って馬鹿にしてたのに結局出てほしいの?
CDも3形態も馬鹿にしてたのに喜んでるし。
馬鹿にしたり悪く言いたいのが目的だから平野紫耀くんのやることによってブレる。
低俗なネットニュースとか週刊誌が大好きなのは一貫性があるね。
GRAVITY
GRAVITY2
たみぽ

たみぽ

おはようございます。

父の一周忌のことでまた夫から母のクレームです…
嫌だったことは何回も繰り返し愚痴らないでほしい😣

アスペグレーの夫。
デリカシーのない母。
挟まれて辛い❗

地元は田舎で荒い人が多くて口の悪い人が多いのよ😭
地域性も理解してほしい。
GRAVITY
GRAVITY8
まつり

まつり

本を描き始めて気になるのは、他の絵師さんとのネタ被り、構図被り💦意識しなくても似たようなシチュエーションは避けられないのよね…。でもネタは同じでも描く人で表現や解釈は違うのだから、その辺は大目に見てくださいm(*_ _)m💦
GRAVITY
GRAVITY7
切餅🍭

切餅🍭

7話と8話見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た見た
GRAVITY
GRAVITY5
shelly 6/2

shelly 6/2

プチマルシェの告知用を今つくってます。
2/17と5/6です。
和と洋の調和したレトロ空間、画家の目写真館様のスペースをお借りして、
アンティークショップ琥珀さんと合同で開催します。
2/17はお花屋さんも参加されます✨
GRAVITY
GRAVITY9
おもち

おもち

今日は久しぶりの有給なので家でゆっくり過ごしてる。
まだパジャマだし🤭
したい事はたくさんあるんだけど時間と体力が…。
今、ジミンちゃんの手紙を書き写したからこれから翻訳。
分からない単語が多い🤦‍♀️
まだまだ勉強不足。
GRAVITY
GRAVITY3
ゆりゆ

ゆりゆ

キャンプイン!
投手陣のアップ、全身のストレッチになりそうで、スポーツかじってる身としてはめちゃくちゃ参考になります🙏
そして際立つ颯ちゃまの脚の長さ✨笑
宮城くんはシューズで見つけやすくてありがたい❤
仁藤さんの久々の癒しボイスも良き🥺
#Bs2024
GRAVITY
GRAVITY7
じゃこ

じゃこ

身長-5mm 体重-1kg でフィニッシュでした。え〜 前夜のコンディション悪い中でこの結果でしたけれども頑張って調整してきたので え〜 悔いは無いです。また次回、結果に繋げられるようにこれからも精進していきますのでどうか応援よろしくお願いしますっ!
GRAVITY
GRAVITY2
パンと

パンと

今朝の覚醒時間ギリギリまで観ていた夢の中で フッと「八田やすえ」という名前がネオン看板のように表れて消えた映像が今も脳裏に残っている
もちろんそんな名前の知り合いは居ないしネット検索してもピンと来る情報は得られなかった
誰なんだ 八田やすえ
GRAVITY
GRAVITY7
もっとみる
関連検索ワード

「AIはなぜ嘘をつくのか」の良い例えが思いついた。