フィードに表示された衝撃的な写真が本物なのか、それともAIが作り出した偽物なのか、どうすれば見分けられるでしょうか？ デジタル・フォレンジック（Digital forensic）の専門家で、米国大学教授のハニー・ファリド（Hany Farid）氏が、ジャーナリスト、裁判所、そして政府が AI生成画像の構造的エラーを発見できるよう支援する方法を解説し、インターネットが現実にもたらす脅威に直面する一般の人々が活用できる4つの実用的なヒントを紹介しています。
- TED Speaker: Hany Farid（Digital forensic scientist）
あなたは、SNSで恐ろしいメッセージを受け取りました。兵士4人が捕らえられました。そして、10分以内に要求が満たされなければ、彼らは処刑されるでしょう。頼りになるのはこの粗い写真だけです。そして、理解する時間がなく実際に兵士4人が行方不明になっている場合、最初の行動は何ですか？
大胆に言えば、あなたの最初の行動は、私や私のチームのような人に連絡することです。私は応用数学者とコンピューター科学者として訓練を受けました。私たちはジャーナリスト、裁判所、政府と協力してきました。浮気している非難に値する写真から 児童虐待の胸が張り裂けるような映像、殺人事件の写真証拠、もちろん、話すことのできない事柄もあります。
私たちがまず注目するは、画像内の残留ノイズがより自然な画像に見えるか？ または、AIによって生成された画像なのかです。例えば、本物の犬と、AI犬がいます。そして、これが私が抽出した残留ノイズです。ノイズの視覚化で自然と人工物の間には、明らかに異なるパターンが見られます。これらの星のようなパターンは、生成 AIの明らかな兆候です。
物理世界で平行線をイメージすると、これらは消失点と呼ばれる一点に収束します。芸術家たちが何世紀にもわたって知っていた現象です。しかし、AIはこれを知りません。生成AIは根本的には統計的なプロセスで画像生成します。物理的な世界、幾何学、物理学を理解していません。物理的、幾何学的な異常を発見できれば、 操作または生成の証拠を見つけることができます。
このことから皆さんに最も伝えたいことは、簡単ではないかもしれませんが、本物と偽物を見分けることは可能です。
この画像では4本の平行線を描いています。地下室の写真の壁の平行な側面に一貫した消失点が存在しないことがわかります。AIは基本的に物理法則をモデル化していないため、幾何学、物理法則に違反する傾向があります。ここでは兵士の影から足元まで下部に4つの影を付けています。そして、この線が交差していないことが解ります。
＜4つの実用的なヒント＞
1つ目は、知って安心することです。私のチームが開発しているツールは ジャーナリスト、公共機関、 裁判所に本物と偽物を見分ける手助けをしてもらうためですが、それはあなたの役にも立ちます。2つ目は国際基準があること、いわゆるコンテンツ認証のため作成時点でコンテンツを認証できます。3つ目は、SNSはニュースや情報を入手する場所ではないということを理解して下さい。4つ目です。虚偽または誤解を招く情報を共有する場合、意図的であろうとなかろうと、あなたたち全員が問題の一部なのです。問題の一部にならないで下さい。（拍手）
私たちは岐路に立っています。テクノロジーが社会を分裂させることを許し、不信、憎悪、不寛容を撒き散らすのを許すのか？ または、私たちがテクノロジーを活用して共に働く新しい方法を見つけるかです。その選択は完全に私たち次第です。（拍手）
質問：オンライン上の画像のうち、およそ何パーセントが偽物だと思いますか？
回答：50%に近づいていると思います。
質問：一般の人が真偽を確認できるサイトはありますか？
回答：ありません。これは二次的な問題ですが、今では人々は偽物を作っています。その後、偽のサイトにアクセスして認証します。すべてが非常に奇妙になってきているので、止めてください。
- 画像生成AI 見分けられる？ クイズ&ビジュアル解説（12/3, 2022 日経新聞）
