有名人が実際には言っていないことを言っているように見せかけた偽映像を、あなたはうまく見分けられますか? コンピューター科学者スパソーン・スワジャナコーン(Supasorn Suwajanakorn)は、大学院での研究として、AIと3次元モデリングを使い、本物にしか見えないような音声と同期した人物の映像を作りました。この驚くべき講演とデモで、それがどのように作られるのかをご覧ください。そして、この技術の倫理的問題と創造的可能性、そしてその悪用への対策として行われていることについて学びましょう。

Fake videos of real people — and how to spot them | Supasorn Suwajanakorn

研究をするヒントになったのは、ホロコーストの生存者たちから学ぶ最後の機会を 保存しようというプロジェクト「証言の新局面」(New Dimensions in Testimony)で、ホロコースト生存者のホログラムと対話することができます。これは、ネット上の写真から作った有名人のモデルです。入力源となる映像の動きに合わせて全部の顔を動かすことができます。(拍手)

私達の目標は人物の正確なモデルを作ることで、誰かを騙ることではありません。しかしこれが悪用される可能性を危惧しています。この問題については「フォトショップ」が現れて以来みんなずっと考えてきました。研究者として私は、対策技術の開発もしていて AI Foundationでの取り組みに参加しています。それは機械学習と人間のモデレーターの組み合わせにより、偽物の画像や映像を検出しようという私自身の研究に対抗するものです。公開を予定しているツールに Reality Defender があり、これはブラウザーのプラグインで偽物の可能性のあるコンテンツに対して警告を出すようになっています。

スワジャナコーンさんは、最後に「人物の完全なモデルを作れ、安全性も確保できるまでにはまだまだ時間がかかるでしょう。でも私は希望と熱意を持っています。この技術を正しく注意して使うなら、誰もが広く世界に良い影響を与えられるようになり、みんなが望む未来を築く助けになるはずだからです」と語ります。ありがとうございました(拍手)


コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください