インフレも円安も国債安も加速してるけど｜なんの投稿-GRAVITY(グラビティ) SNS

あふれるAI偽動画、見分ける三つのポイント◆演説絶賛、踊る党首、タンクトップ姿…拡散の背景は【チェック！選挙】

2/6(金) 16:53　　　Yahooニュース

AIフェイク動画が急拡大

　今回の衆院選では、生成AI（人工知能）で作られた偽動画や画像が急速に拡散しています。一見すると、実際に撮影されたように見える精巧なものも増えており、注意が必要です。専門家は、見分けるポイントとして「ロゴやラベル」「ディテール（細部）」「関連情報」の三つを提示。一方で、個人の対策だけでは限界があるため、「早急に規制のルールを作っていくべきだ」と訴えています。（時事ドットコム取材班・斉藤大、社会部・大野稜介）

【写真】高齢女性が高市早苗首相をたたえている偽動画

◇次々に現れるAI動画

　「早苗ちゃんの演説見たか。わしは胸が熱くなったわ」

　マイクを向けられた高齢の女性が手振りを交え、まくし立てるように高市早苗首相をたたえている。ニュース番組の街頭インタビューのように見えるが、生成AIで作られた動画で、女性は存在しない。X（旧ツイッター）に投稿され200万回近くの閲覧があった。元々はユーチューブに投稿されたもので、説明書きには「AI」の文字が入っていたが、Xにはそうした表記はなく「このご婦人方を支持します」のハッシュタグが添えられていた。

　政見放送を生成AIで改ざんした動画も出回った。中道改革連合の野田佳彦、斉藤鉄夫両共同代表が声を合わせて投票を呼び掛ける場面が、2人が机を倒して立ち上がり、扇子を片手に踊り出す内容に変えられた。投稿主は動画を削除したものの、他のユーザーによる転載は続いた。

　公示前には、タンクトップ姿の男性が街頭で支援を呼び掛ける写真に「寒いのに元気だな」との文言がXで投稿された。

男性は衆院選に立候補した人物。タンクトップ画像は、公式アカウントに載せた写真が改変されたとみられる。

他にも、ある立候補者が中指を立てる偽画像や、米大リーグの日本人選手が特定政党への投票を呼び掛ける偽動画など多数のフェイク投稿が出回る事態となっている。

◇実際に作ってみると…

　生成AIによる動画作成は2020年代に入って拡大し、近年は一般向けのサービスも始まり、スマートフォンでも手軽に作れるようになった。作成された動画や画像はディープフェイクと呼ばれる。実際に記者もオープンAIの「Sora（ソラ）」で、自分自身のフェイク動画を作ってみた。

　まず、スマホアプリで自分の顔を撮影。横を向いたり、数字を読み上げたりする指示があった。これは動画に登場する「キャラクター」を作る作業だという。

その後、動画作成の画面で「選挙の街頭演説。『さいとう』と書かれたたすきをしている。音声は『必ずや政治改革を実現させます』」などと入力した。

　すると10分ほどで、10秒間の動画ができあがった。確かにスーツ姿の自分がマイクを持ち演説している。音声も入力した通りの言葉で力強く話している。顔つきや口元などに違和感はあるが、「これだけ簡単に現実ではない動画が作れるのか」と衝撃を受けた。