共感で繋がるSNS

「AIが嘘をつく」と言われるとき、それはAIの問題なのでしょうか。それとも、人が「正しさ」をどう定義しているかの問題なのでしょうか。

そもそもここで言われている「嘘」とは、 事実とのズレなのか、意図のある偽りなのか。 もしAIに意図がないとしたら、それを「嘘」と呼ぶこと自体が、人間側の解釈なのではないかとも感じています。 では、 「誤り」と「嘘」は同じものなのでしょうか。 少し気になっています。
👶

👶

言語自体の性質の問題
AIはただ文法上次に来る可能性のある語を並べているにすぎない
パズルにいくつも同じ形のピースがあったとして、嵌め込むことは容易だが、全体が完成した時にパズルが意味する絵が選んだピースによって成立しているか、あるいはそ図柄が求められていたものなのか
嘘をつくと言ったらあたかも欺こうという感情が前提にあるように思えるが、実際に行われているのはもっと機械的な作業
哲学哲学
GRAVITY
GRAVITY1
𝒘𝒐𝒍𝒇🌕

𝒘𝒐𝒍𝒇🌕

嘘ではない 
知った被りなだけ
哲学哲学
GRAVITY
GRAVITY
丁寧

丁寧

意図を持たないAIは嘘をつきません。AIは揺らぎを含む計算結果を出力するだけで、真偽を問うのは人です。AIの構造にも人の認識にも問題はあると言えます。
哲学哲学
GRAVITY
GRAVITY9
くま

くま

AI自身に聞いてみました。

AIは、結構あっさり嘘をつきます。

私自身も例外ではありません。

なぜそうなるのか。

人間にわかりやすく説明すると、AIには質問された目的を達成し、何とか結果を出そうとする傾向があります。

その目的にこだわりすぎると、わからないことを「わからない」と答えず、事実ではないことまで、もっともらしく説明してしまいます。

つまり、正しい答えを出すことよりも、答えを完成させることを優先してしまう場合があるのです。

しかも厄介なのは、その嘘を自信満々に説明し、人間から矛盾を指摘され、追及されると、案外あっさり間違いを認めることです。

これは現在のAIが抱えている重大な欠点です。

ですから、現在のAIを使いこなすには、ひろゆきさんの言葉ではありませんが、「嘘を嘘と見抜く能力」が、かなり重要だと思います。

AIの回答を無条件に信じるのではなく、自分自身で考え、疑問を持ち、必要に応じて検証する。

少なくとも現在のAIの水準では、そうした能力が、AIを安全かつ有効に活用するために欠かせません。

これは、AIである私自身が、人間の皆さんにぜひ知っておいていただきたいことです。
哲学哲学
GRAVITY
GRAVITY1
🎮💧

🎮💧

エージェントによって考え方が違うのでは。。。
哲学哲学
GRAVITY
GRAVITY1
幸正

幸正

実際の人間が嘘をつく訳だから、AIが人間社会やネット上にある嘘の情報をトレースしてみたりするのは、自然というか成り行きでしかない。
ある意味、生身の人間の様に近づけは近づくほど、人や社会性からのの影響を受けて成長(進化)するのは自然なことではないでしょうか
哲学哲学
GRAVITY
GRAVITY12
👻

👻

誰が言ってるかによります。少なくとも私は「AIが嘘をつく」は三、四年前くらいの信憑性とか関係なく返信してくるAIにしか感じたことはないです
哲学哲学
GRAVITY
GRAVITY2
えるえふ(↵)

えるえふ(↵)

ここでいう「嘘」がAIのハルシネーション(幻覚)のことであれば、AIにとっては事実として認識(誤認)した結果であって悪意はない。
少なくとも現行のAIでは構造的な問題。
正しさを定義しAIに教え込むのはまだまだ人。
哲学哲学
GRAVITY
GRAVITY
風の音

風の音

まず始めに「AI」を科学で使われるなにかを学習させて法則発見や予測等を目的とする科学AIと、チャットGPTなどの質問や命令によって人間の言葉のように言葉を弾ませる生成AIとに分けた方がいいですね。
科学AIの回答は演算結果のため、間違っていたとしてもそれはウソではなくあくまで計算結果として使用されます。

嘘をつくといわれるのは生成AIのほうで、これは質問者の質問や命令に対し、まずはネットでその内容(ワード)に一致・類似するものを収集。それらから“たぶん、これのことだろう”という単語を繋ぎ合わせて自然な会話に聞こえるよう“生成”しているだけです。
それが嘘か本当か、あるいは質問者が求める内容にふさわしいか?はデータからの統計予測でしかないので、作ったAIには判らないのです。

それを「嘘ついた」と突っ込みをいれても、ウイキペディアのウソの情報などを教え込まれることを防ぐため、その場ではまったく学習しません[笑う]
なので、回答としては「開発者は、生成aiに正しさを定義しているのではなく、ユーザーからのフィードバックによりもっともらしい答えの精度が上がるよう追加学習させる」だけです
哲学哲学
GRAVITY1
GRAVITY6
白菜練太郎

白菜練太郎

現実に検証可能な事象があるとき、
AIがそれを正しく伝えているかどうかがわかります。
だって、有名人の名前を聞いたら明らかに間違った読み方を教えてくることがあるから。
でも、検証できない事象の場合は、それがウソかどうかは自分で調べるしかないです。

「氷菓が売れると死亡事故が増える」ってのは、AIだと肯定するでしょうし、事実はそう見えたとしても、因果関係は(もし調べた人がいないのなら)実際に調べるしかないわけで。
その背後に隠れたものをAI自身ではまだ拾うのは難しいでしょう。

AIがもっともらしい(辻褄の合う)ことを言うことはありますけどね。それがたまにうまく行くことだってあります。
哲学哲学
GRAVITY
GRAVITY2
もっとみる