Q.ディープフェイクの問題点について教えてください

답변게시판
A. 囲碁棋士のイ・セドルと人工知能アルファ碁の対決が繰り広げられてから約6年が経ちました。2016年3月に世紀の対決が起こった当時、イ・セドルが負けると予想した囲碁棋士は誰もいませんでした。しかし、人間が人間の作った人工知能に負けてしまいました。

囲碁棋士たちがイ・セドル九段の圧勝を予想した理由は信頼が厚かったからです。信頼の厚さは、コンピューターが得意とする数理で判断できない部分だという理由からでしょう。囲碁にはチェスとは異なる「人間固有の領域」の信頼があるというのが囲碁棋士たちの自信の背景だったということです。

しかし、アルファ碁は信頼の厚みを学習しました。ここで、すでに勝負は分かれたわけです。

アルファ碁が勝った後、コンピューターが世の中を支配するという映画『ターミネーター』、『イーグル・アイ(Eagle Eye)』などが現実になりそうだという不安に襲われました。

この不安はディープフェイク(deep Fake)*で現実味を帯びているようです。

* Deep Learning(深層学習)+ Fake(偽り)の合成語。人工知能で合成された偽の映像物。

下はロバート・ダウニー・Jrが演じた『アイアンマン』をトム・クルーズに変えた映像物です。

  • https://www.youtube.com/watch?v=A8TmqvTVQFQ&t=1s



トム・クルーズが『アイアンマン』の主演を演じても何も疑う理由がないため、『アイアンマン』を初めて見た人なら「アイアンマン=トム・クルーズ」と記憶することもできるでしょう。

実際、映画制作にディープフェイクはかなりの助けになっています。スタントマンを使ったシーンで俳優の顔を主演俳優に変えたり、CG処理する場面でです。

しかし、有名人たちにとって、このような技術は不安として作用します。

  • https://www.youtube.com/watch?v=ERQlaJ_czHU&t=43s

上は北朝鮮の指導者キム・ジョンウンが「民主主義は崩壊しやすい構造」と言っている映像でしょう。政権を世襲した独裁者の言葉ですから何も知らない人々が、この映像を見れば北朝鮮の政治体制を擁護する発言程度に理解される可能性が非常に高いです。

しかし、実際にこのような発言をした人、そして上記の映像を撮った人はキム・ジョンウンではありません。他のアジア系男性の映像をディープフェイクの技術でキム・ジョンウンに変えたのです。

何が本当で、何が嘘なのか分からない世の中に なるかもしれないというのがディープフェイクがもたらした不安です。

芸能人たちには、このような不安感がより大きく作用します。すでに制作された成人向けの映像の主人公をディープフェイクで合成するのはとても簡単なことになってしまったので眠れなくなるでしょう。

ディープフェイクで作られた偽物が市中に出なくても、そのような映像が存在することもあり得るという事実自体に身震いするのです。それに、この技術でラブドールを作り、そのラブドールを抱いて寝る人がいると思ってみてください。

本当の問題は、こういうのが想像で終わらないということです。そして、こんな想像を現実に移すのに、お金もあまりかかりません。
  • Lim, Chul
  • 入力 2022-03-07 00:00:00

Copyright O2CNI All rights reserved.

目錄