「AIが嘘をつく」と言われるとき、それはAIの問題なのでしょうか。それとも、人が「正しさ」をどう定義しているかの問題なのでしょうか。
そもそもここで言われている「嘘」とは、
事実とのズレなのか、意図のある偽りなのか。
もしAIに意図がないとしたら、それを「嘘」と呼ぶこと自体が、人間側の解釈なのではないかとも感じています。
では、
「誤り」と「嘘」は同じものなのでしょうか。
少し気になっています。
ナトル
AI がよく間違えることは 漢字の読み と 人物名だったりしますからね ただ同じことを繰り返し言うと間違わなくなりますので やっぱり経験ではないでしょうか？
哲学
10
いちかばちか
哲学16
どこでもぺお
結果的にそれが嘘だと解釈されるわけですが
模倣のプロセスも「次の言葉の出現確率」で
決まっていきますから
AIは真似をしてるとも嘘をついてるとも
当然自覚はしていないかと思います[ほっとする][星]
哲学34
蒼🐬
検索してもヒットしないから
''嘘に見える''のかもしれないね
虚像を作り出してる
哲学4
ひたち
・AIの問題である。
・嘘は事実とのズレ。意図がなくても嘘と呼ぶことはありふれてある。人間に対しても普通に使うと思います。
・人間側の解釈であるのは、論理を除いて何事でもそう。「人間側」を離れた視点には立てない。そもそもそういうものであり、それで問題ない。
・「誤り」と「嘘」は同じ平面上にない言葉な気がしますが、落とし込むなら、主/客、意図あり/なしで分類できそう。主&意図ありの場合のみ「誤り」と呼べない。それ以外はどちらも呼べる。....と、思ったけどこれ、エクリチュールが話をややこしくしてるな。パロールなら意図あり/なしだけでよくて、意図ありは「誤り」と呼べない。
哲学3
comesunday
AIはプログラムであり、プログラムされた通りにしか動作しないからです。
AIと呼ばれる仕組みを内蔵するアプリケーションは便宜的に振る舞いが「非決定論的」であると言われる事がありますが、本当に非決定論的な動作をするわけではなく、どのような人間にも機械にも現実的な時間内に完全な予測ができないほど複雑な動作をする、という意味であって、あくまで動作は決定論的です。
（ちなみに、AIに自意識があるかないかとか人格を認めるべきかといった議論もありますが、これはそれらとは無関係です。そういった議論は寧ろ、植物に自意識があるかとか、人形の魂が宿ることがあり得るかといった議論の範疇であり、今のところ、それらに答えを出せる科学的議論として広く重要性が認められている研究はないと思います。）
「AIが嘘をついた」とAIを利用した誰かが言い、その人が嘘をついていないとすると、それは、AIがその人が期待するものとは異なる動作をしたということです。AIはプログラムされた通りには動作しますが、誰かの期待通りに動作するとは限りませんし、動作が「正しい」といえるかどうかは文脈によります。
いずれにしても、AIと呼ばれているアプリケーションのユーザーに「嘘をついた」と言われたら、プロダクトオーナーはそれを「バグ」と呼んで問題起票し、その内容を詳しく調査したいと考えるでしょう。
開発時点での企画、合意された仕様、利用目的など、利用に至った経緯や事情は様々あるでしょうが、それらがどうあれ、それらすべてを考慮して、その場での「正しい」が何であるべきかも含めて状況を調査した上で、その時点で必要と考えられる対処をすべき、というのが一般的な製品管理の考え方です。例えば、ユーザーに使い方説明を追加補足するかもしれないし、構成するソフトウェアを改変するかもしれないし、あるいは、何もしないかもしれません。
哲学2
トリア🐕
哲学1
はむさんど2
哲学1
かつや
学習しているんだから
仕方ない時もあるんじゃ無い？
AIが嘘をつくじゃ無くて、
人間がしっかりスカたらいいんじゃない？
哲学1
さんかく
哲学1 もっとみる 
