「ディープフェイク」時代に備える　モバプリの知っ得［252］

「生成AI」技術を使い、顔や声などを合成した映像「ディープフェイク」【※1】に関するトラブルが増えています。今月初め、ニュース番組に出演する岸田文雄首相に下品な言葉をしゃべらせるディープフェイク動画が拡散されて話題になりました。また、イスラエルのガザ侵攻をめぐり、アメリカの人気モデルが「イスラエルを支持する」といった内容の動画が拡散されましたが、実際はディープフェイクで作られた偽物動画であることが分かっています。

さらには漫画家の井出知香恵（いでちかえ）さんが、ハリウッド俳優になりすましたSNSアカウントから7500万円をだまし取られる被害に遭（あ）ったことを告白しています。信じてしまった理由は「ディープフェイク技術を使ったビデオチャット」だったとのこと。政治的な発言をねじまげるプロパガンダ（政治宣伝）をはじめ、サイバー犯罪で被害者を信じ込ませるためにディープフェイク技術が使われるということですね。

また、勝手にポルノ映像を生成する「ディープフェイクポルノ」も問題になっています。SNSにアップした自分の顔写真をAIに学習され、ポルノ映像を勝手に作られてネット上に公開されてしまうのです。ネットトラブルに遭わないように気を付けていても、このように勝手に映像を作られて被害に遭ってしまう可能性があります。残念なことに、技術の発達でディープフェイク映像の作成ハードルは下がり、今後もこのような事件は増加していくと思われます。SNSなどで流れる映像を簡単には信じないように、慎重な判断が必要です。

～言葉の解説～

※1　ディープフェイク　…　深層学習（ディープラーニング）技術を使ってフェイク映像を作るという意味の言葉です。当初は高性能なパソコンを用いて大量の素材（写真や映像）で学習させていました。そのため、簡単に素材が手に入る政治家や著名人などがターゲットになっていました。今後、技術が進化していくと、「スマホで簡単に」ディープフェイク映像を作ることができるようになっていくでしょう。