拡散した「ローマ教皇の偽画像」は、ジェネレーティブAIによる“ポスト真実”の時代を象徴している

この出来事は、後世の人々に「バイブシフト（世の中の文化的雰囲気の著しい変化）」として認識されることだろう。ソーシャルメディアのフィードが3月下旬に突然、ローマ教皇フランシスコの画像で埋め尽くされたのである。

本来なら教皇は敬虔で質素な人物だが、その画像ではおしゃれな白いパファーコートを着ており、どこかの組織のボスのようにも見えた。この画像はたちまち拡散され、さまざまな悪いニュースのひとつとして笑いの種になった。

この画像もまた本物ではなかった。画像を生成するジェネレーティブAI「Midjourney」を駆使して誰かがつくり出したものだが、だまされた人は多かった。その数の多さといえば、報道機関が「人工知能（AI）によって生み出された大規模な偽情報の最初の事例のひとつ」と呼び始めたほどである。

この一文を打つだけで不吉な気分になる。ドラマ「ハンドメイズ・テイル／侍女の物語」の赤いマントを着た登場人物を初めて見たときのような気持ちだ。それがディストピアの前兆というわけではない。しょせんは“最高”な感じに見えるローマ教皇の1枚の画像にすぎないのだ。

しかし、もしそれが「ウクライナ戦争の戦場」と主張する画像だったらどうだろうか。あるいは、バイデン大統領が何らかの秘密会議をしている画像だと言われたら──。AIがそういった類の偽情報を生成する可能性があるのは、恐ろしい問題である。

厄介な前例

もちろん、ウォロディミル・ゼレンスキーの問題を巻き起こしたディープフェイク動画で多くの人をだますことは、ローマ教皇のふざけた写真で誤解させるよりも少しばかり手間がかかる。

『The Atlantic』で3月下旬に指摘されているように、誰もが「さまざまな経験則を用いて真実を見極めようと」しており、例えば逮捕されるドナルド・トランプ元大統領のAI画像を本物と思うよりも、ローマ教皇フランシスコでもパファーコートを着ると信じるほうが簡単なのである。このため多くの人がこの画像を見てくすくすと笑い、その真偽を疑うことなくスクロールし続けたとしても無理はない。

だが、この画像は厄介な前例をつくることになる。コート姿の教皇の画像の作成者は、誰かをあざむこうとしていたわけではない。実際に作成者はBuzzFeedの取材に対し、「幻覚キノコでトリップしていて面白い画像を考えようとしただけ」と語っている。

だが、もしこれが偽情報キャンペーンの一環だったとしたらどうだろうか。AIが生成したコンテンツの多くは、すでに人間の目や耳ではその出自を見抜くことが難しいほどのレベルに達しているのだ。

18年に亡くなった有名シェフのアンソニー・ボーディンについてのドキュメンタリー映画『Roadrunner』でボーデインの声が“偽物”だったことには、モーガン・ネヴィル監督が『ニューヨーカー』で語っていなければ誰も気付かなかったことだろう。

政治の世界では、すでにディープフェイクが道具として使われている。しかし、疑い深い人なら画像が偽物ではないかと感じたら信頼できるニュースソースを調べて確認できるだろう。

しかし、ニュースメディアに対する信頼度は、すでに記録的な低さに近づきつつある。誰もがどんな画像でもつくり出せるようになっており、その画像の偽りを暴いてくれるかもしれない情報源の信頼度が史上最低だとしたら、少しでも嘘っぽいことは誰も信じなくなるだろう。

「ポスト真実」の先にあるもの

AIが生成した教皇フランシスコの画像がバズってから数日後、教皇は呼吸器感染症にかかりローマの病院に搬送された。それから体調は回復しているが、その（本当の）ニュースが広がるにつれ、情報がフェイク画像のニュースとごっちゃになり、少し迷走してしまった。教皇はふたつのまったく異なる理由でトレンド入りし、一見しただけではどれが実体のある情報なのか判断することが難しかったのである。

ソーシャルメディアの時代においては“ネット通”の人々が優秀な探偵に変身し、すべてを疑ってかかる態度が行き渡っている。しかし、それは陰謀論も同じだ。「ポスト真実（ポスト・トゥルース）」の時代の先にあるのは、説得力のある画像、テキスト、さらには動画を何もないところから生み出せる時代だ。

インターネットによって約束された大きな可能性のひとつは、誰もが以前よりずっと多くの人たちに情報を発信できることだった。長年にわたって嘘つきを見つけることは簡単だった。URLや稚拙な画像加工、誤字などで、悪党を見破ることができたのである。

ところが、AIはそのようなミスを減らすことができる。木の実が落ちてきた様子を空が落ちてくると勘違いした「チキン・リトル」ではないが、まだ“空が落ちてくる画像”にだまされたことがないだけなのかもしれない。

（WIRED US/Edit by Daisuke Takimoto）

※『WIRED』によるジェネレーティブAIの関連記事はこちら。

ウクライナ大統領の偽動画は、ディープフェイクが戦争の“武器”となる世界を予見している

ウクライナのウォロディミル・ゼレンスキー大統領のディープフェイク動画（偽動画）がネット上に投稿された。ロシアへの降伏を呼びかける内容の今回の偽動画は素早く削除されたが、ディープフェイクの技術が政治や戦争の“武器”となりうる現実が改めて浮き彫りになっている。

拡散した「トランプ逮捕」の画像が“偽物”であることは、どうすれば見分けられるのか？

米国のドナルド・トランプ前大統領の「逮捕現場」という偽画像がTwitterで拡散した。AIによって生成されたこれらの画像は、どうすれば本物と見分けることができるのだろうか。

次の10年を見通すためのインサイト（洞察）が詰まった選りすぐりのロングリード（長編記事）を、週替わりのテーマに合わせてお届けする会員サービス「WIRED SZ メンバーシップ」。無料で参加できるイベントも用意される刺激に満ちたサービスは、無料トライアルを実施中！詳細はこちら。