先日拡散した「岸田総理の偽ニュース動画」。生成AIで作ったとはいえ、幸いにも一発で捏造と分かるお粗末なクオリティで、動画の内容も小学生が喜びそうな「お下品」なものでした。
さっそくロゴを無断使用された日テレが激怒、作者の若者が「日本テレビさま！」と謝罪するコントみたいな展開になりましたが、一方でその若者が、
「あれがダメなら風刺画だってダメだろう」
と開き直って周囲を呆れさせるなど、実はあまり事態を理解できていないようです。ちなみに風刺画だったら何でもOKなんていうルールはそもそも無く、風刺画でも普通に名誉棄損は成立します。
今回の騒動、単体では「アホだね」で終わる話なんですが、技術者でもマニアでもない人物が、生成AIで動画や画像を作り出せる時代になった、実はこっちの方が深刻だと思っています。
かなり近い将来、スマホのみで「誰もが」ハイレベルの生成動画をゼロから作りだせるようになります。つまり思慮の浅いおバカさん、まだ未成熟な子供が、ハイクオリティのフェイク動画を量産し始める社会がやってくるという話。や、コレ結構な地獄ですよ。
AI生成動画でやっちまえ！
例えば交通事故の裁判。相手方がドライブレコーダーを使用していなかったら、コッチ側のドラレコ動画を有利な内容にしれっと改変しちゃう（赤信号を青にする等）、なんていうケース、絶対起きますからね。
殆どの人がやらない行為だとしても、たった一人がやらかせば社会全体のルールが変わってしまい、結果的に社会のコストが増える。これは私たちが過去に何度も経験しています。
気になって知り合いの弁護士さんに聞いてみたんですが、現状の裁判では「ドラレコ動画」は改変されていない性善説前提で扱われており、もしかしたらすでに、何らかの証拠改変が起きているかもね、と……わぉ。
「未熟な子供」もやらかすハズ。ちなみに以下ご紹介するエピソードは未来予想ではなく、すでに実際に起きた事案なんですが、ある学校に「おたくの生徒が喫煙している」というタレコミがあり、そこには喫煙するある生徒の画像が添えられていたんですね。
ただ見ると不自然な箇所もあり、よくよく調べてみたら、恋ガタキの女の子を陥れるために、第三者を装った同級生がニセ画像を生成、送りつけてきたという……雑な少女マンガみたいな話ですが、実話です。
今でさえこんな状況にあるのに、おバカAI生成クリエイターが大量発生したら、どんな社会的混乱が起きるか。画像や動画という、これまで有効だった社会の「物差し」が一つ消えるんですから、その混乱は想像に難しくないでしょう。
恐らく、クルマ・バイク・自転車のドライブレコーダー装着率が激増し、その後ほどなく「人間のドラレコ」（メガネ型とか）が普及し始めるのでは。もちろん24時間録画しっぱなしです。だってパワハラ音声、セクハラ音声くらいなら簡単に生成できますからね。AIによる言いがかりに備え、反証となる記録を取っておく必要がある、そんな悲しいライフログ。
実際、草津市の事件（セカンドレイプの町）なんて、何の証拠もないのに一方的なリンチが行われたワケですからね、それを考えれば……さほど大袈裟な話ではないでしょう。
なんだろう、AIって人間が面倒でやりたくないことを代わりにやってくれる、召使いみたいな存在になってくれるんだろうって勝手に予想をしていたんですが、我々から仕事を奪うわ、社会のコストを増加させかねないわ、私たちにはまだ早過ぎたんでしょうかね？？泣きそうです。
Text:小木曽健（国際大学GLOCOM客員研究員）
※本記事のタイトルはFORZA STYLE編集部によるものです。
