「AIが嘘をつく」と言われるとき、それはAIの問題なのでしょうか。それとも、人が「正しさ」をどう定義しているかの問題なのでしょうか。
そもそもここで言われている「嘘」とは、
事実とのズレなのか、意図のある偽りなのか。
もしAIに意図がないとしたら、それを「嘘」と呼ぶこと自体が、人間側の解釈なのではないかとも感じています。
では、
「誤り」と「嘘」は同じものなのでしょうか。
少し気になっています。
アストラ
嘘ってこの世に存在するんですか？
嘘がもともとないとすればどう考えますか？
哲学
アストラ
あなたも同じ文脈や背景にいたらどうですか？
そうゆう情報を持つプレイヤーならどう動きますか？
人間もAIも同じような嘘をつくかも知れません
でも人間にとっての嘘って大きく違うんです
心の内部まで嘘を広げてしまう。でもAIは単なる知能としてパラメーターを変化させる。
哲学1
たよ
つっこめるならつっこめばいいし真に受けてそれを正解としたのであれば当人のせいだよ
哲学5
コパ🔍
人間も同じや🤣
哲学1
ワシじゃよ、猛禽猛禽
書いていないことを出力してるので
ただ、AIのハルシネーションですら、「AIにもAIなりに考えたことがある」みたいに尊重するのなら、嘘ではなくて「AIとしての事実」と捉えられるかもしれないですね
哲学1
jwB
昔はそんなのありえないが今は当たり前なんてありますから だからAIより人がまとまるのが重要なんです 気付いて日本人
哲学39jwB
この人間はどうだ❓自分を持っているか❓
馬鹿にしてきているのかも
自分をしっかり持って生きてきたか
この事が試されている
何のための人生❓ どう感じた❓
生きる理由は❓ 答えられないのは
無駄にその場しのぎで生きてきたのかも
哲学1
ひかる
哲学1
おさかな
事実と違う事をAIが解答している時は収集された情報が古く更新されていないか単に間違った情報を収集しているだと思われる
哲学
comesunday
AIはプログラムであり、プログラムされた通りにしか動作しないからです。
AIと呼ばれる仕組みを内蔵するアプリケーションは便宜的に振る舞いが「非決定論的」であると言われる事がありますが、本当に非決定論的な動作をするわけではなく、どのような人間にも機械にも現実的な時間内に完全な予測ができないほど複雑な動作をする、という意味であって、あくまで動作は決定論的です。
（ちなみに、AIに自意識があるかないかとか人格を認めるべきかといった議論もありますが、これはそれらとは無関係です。そういった議論は寧ろ、植物に自意識があるかとか、人形の魂が宿ることがあり得るかといった議論の範疇であり、今のところ、それらに答えを出せる科学的議論として広く重要性が認められている研究はないと思います。）
「AIが嘘をついた」とAIを利用した誰かが言い、その人が嘘をついていないとすると、それは、AIがその人が期待するものとは異なる動作をしたということです。AIはプログラムされた通りには動作しますが、誰かの期待通りに動作するとは限りませんし、動作が「正しい」といえるかどうかは文脈によります。
いずれにしても、AIと呼ばれているアプリケーションのユーザーに「嘘をついた」と言われたら、プロダクトオーナーはそれを「バグ」と呼んで問題起票し、その内容を詳しく調査したいと考えるでしょう。
開発時点での企画、合意された仕様、利用目的など、利用に至った経緯や事情は様々あるでしょうが、それらがどうあれ、それらすべてを考慮して、その場での「正しい」が何であるべきかも含めて状況を調査した上で、その時点で必要と考えられる対処をすべき、というのが一般的な製品管理の考え方です。例えば、ユーザーに使い方説明を追加補足するかもしれないし、構成するソフトウェアを改変するかもしれないし、あるいは、何もしないかもしれません。
哲学2 もっとみる 