絵を出力するAIも音楽を出力するAIも全部そうこういうデータがあるから、次のデータはこうなるだろうと推測して答えを出しているだけ。だからハルミネーションは起きるし、AIを信じきってはいけない。人体のAI画像の指が4本だったり6本だったりしたのは最たる例だね。