説明可能なAIって必要なんですか？それはなぜ？

Question

まさ🫧❀ · Accepted Answer

AIも間違うことがあるので、「なぜその答えになったのか」「根拠はどこか」を確認することが大切です。
納得できる理由があるかを自分で確かめることが、AIを正しく使うコツだと思います。

たとえば最近のChatGPTでは、検索機能でどの記事を引用しているかが明示されるようになりました。
これは「説明可能なAI」の一例であり、出典を示すことでユーザーが根拠を自分で判断できる仕組みになっています。

cootarox · Answer

chatGPTだとカスタマイズ次第で細かい事まで説明させられますよ。ただウザい

ひろ✨ · Answer

ブラックボックスになりがちなAIに対し、「なぜその判断をしたのか」を説明可能にする技術が必要。これがないと倫理的な判断ができない。

3回答 · 75アクセス数