説明可能なAIって必要なんですか？それはなぜ？

Question

まさ🫧❀ · Accepted Answer

AIも間違うことがあるので、「なぜその答えになったのか」「根拠はどこか」を確認することが大切です。
納得できる理由があるかを自分で確かめることが、AIを正しく使うコツだと思います。

たとえば最近のChatGPTでは、検索機能でどの記事を引用しているかが明示されるようになりました。
これは「説明可能なAI」の一例であり、出典を示すことでユーザーが根拠を自分で判断できる仕組みになっています。

りと · Answer

AIの解釈性っていうやつ

金融とか医療でAIを活用するときに必要

AIがどうしてその出力をしたかを人間が理解できないと、責任の所在とかモデルの改善点があいまいになっちゃうから

高性能なディープラーニングより、シンプルな決定木の方がありがたいこともあったり

cootarox · Answer

chatGPTだとカスタマイズ次第で細かい事まで説明させられますよ。ただウザい

ひろ✨ · Answer

ブラックボックスになりがちなAIに対し、「なぜその判断をしたのか」を説明可能にする技術が必要。これがないと倫理的な判断ができない。

Moonfish · Answer

AIに任せて何か重大な（些細なことでもですが）事故が起きた時、その原因を明らかにできないと、同じことが起こる、或いはもっと酷いことが起こる可能性を修正できないまま使い続ける事になりますが、あなたはそれでいいとお考えですか？

Moonfish · Answer

なぜそうなったのか、なぜ間違ったのかがわかるのは改良するのに必要だからでしょうね。

6回答 · 127アクセス数