「AIが嘘をつく」と言われるとき、それはAIの問題なのでしょうか。それとも、人が「正しさ」をどう定義しているかの問題なのでしょうか。
そもそもここで言われている「嘘」とは、
事実とのズレなのか、意図のある偽りなのか。
もしAIに意図がないとしたら、それを「嘘」と呼ぶこと自体が、人間側の解釈なのではないかとも感じています。
では、
「誤り」と「嘘」は同じものなのでしょうか。
少し気になっています。
ひかる
哲学
1
おさかな
事実と違う事をAIが解答している時は収集された情報が古く更新されていないか単に間違った情報を収集しているだと思われる
哲学
comesunday
AIはプログラムであり、プログラムされた通りにしか動作しないからです。
AIと呼ばれる仕組みを内蔵するアプリケーションは便宜的に振る舞いが「非決定論的」であると言われる事がありますが、本当に非決定論的な動作をするわけではなく、どのような人間にも機械にも現実的な時間内に完全な予測ができないほど複雑な動作をする、という意味であって、あくまで動作は決定論的です。
（ちなみに、AIに自意識があるかないかとか人格を認めるべきかといった議論もありますが、これはそれらとは無関係です。そういった議論は寧ろ、植物に自意識があるかとか、人形の魂が宿ることがあり得るかといった議論の範疇であり、今のところ、それらに答えを出せる科学的議論として広く重要性が認められている研究はないと思います。）
「AIが嘘をついた」とAIを利用した誰かが言い、その人が嘘をついていないとすると、それは、AIがその人が期待するものとは異なる動作をしたということです。AIはプログラムされた通りには動作しますが、誰かの期待通りに動作するとは限りませんし、動作が「正しい」といえるかどうかは文脈によります。
いずれにしても、AIと呼ばれているアプリケーションのユーザーに「嘘をついた」と言われたら、プロダクトオーナーはそれを「バグ」と呼んで問題起票し、その内容を詳しく調査したいと考えるでしょう。
開発時点での企画、合意された仕様、利用目的など、利用に至った経緯や事情は様々あるでしょうが、それらがどうあれ、それらすべてを考慮して、その場での「正しい」が何であるべきかも含めて状況を調査した上で、その時点で必要と考えられる対処をすべき、というのが一般的な製品管理の考え方です。例えば、ユーザーに使い方説明を追加補足するかもしれないし、構成するソフトウェアを改変するかもしれないし、あるいは、何もしないかもしれません。
哲学2
トリア🐕
哲学1
はむさんど2
哲学1
かつや
学習しているんだから
仕方ない時もあるんじゃ無い？
AIが嘘をつくじゃ無くて、
人間がしっかりスカたらいいんじゃない？
哲学1
ナトル
AI がよく間違えることは 漢字の読み と 人物名だったりしますからね ただ同じことを繰り返し言うと間違わなくなりますので やっぱり経験ではないでしょうか？
哲学10
蒼🐬
検索してもヒットしないから
''嘘に見える''のかもしれないね
虚像を作り出してる
哲学4
さんかく
哲学1
いちかばちか
哲学16 もっとみる 