DeepNude(ディープヌード)女性の写真をAI/人工知能でハダカに変換できるアプリ「悪用を恐れて削除」したけど・・・?

人間の発想力というものはホントに面白いものですね!

AI・人工知能は人類の科学技術の発展速度を増すために重要なものですが、時としてわたしたちが予想もつかない変な使われ方をする場合があります。

今回は女性にとってはたいへん迷惑な、男性がエッチな使い方をするために作られたAIアプリについて紹介しますね。かなりドン引きする内容なのでご注意下さいませ。

また、全年齢の方が記事を読めるように、アプリ画像の掲載やダウンロードサイトへのリンクは貼りません。予めご了承くださいませ。

その代わり、今回は自由研究メンバーのひとりの画像を大いに活用させてもらってます。

はた迷惑なアプリ「DeepNude」とは?

2019年3月、人工知能の学習方のひとつである「Deep learning(ディープラーニング)」の技術を利用した、エッチな男性にとってはたいへん興味深いアプリが生まれました。

作ったのはアメリカに住むのアプリ開発者の男性。

ご存知のように、インターネットの世界には無限ともいえる量の女性のハダカの画像が存在しています。

それらを人工知能に学習させることで「女性の水着姿、もしくは薄着姿の写真をハダカのものに加工する」というアプリが作り出されたのです。

そののアプリのタイトルは「DeepNude(ディープヌード)」といいます。

開発社の男性としては面白半分でお気楽に作ったようなのですが、なかなかその精度はしっかりとしていて、アプリに女性のハダカをアップロードさえすれば、次々とホンモノと見間違うほどよくできたハダカの画像が出来あがってしまいます。

そして、その写真というのは別に自分が撮影した水着写真でなくとも、インターネット内で拾ってきた画像でも、雑誌のグラビアの写真を撮影したものでもよいわけで、アプリをダウンロードしたユーザーの多くは、有名人やセレブの水着画像をネットで検索し、その画像からフェイクのハダカ画像を作成して楽しんでいました。

ちなみに、なぜこのアプリの「男性版」が作られなかったのか? その理由は、インターネット上に存在する女性のヌード画像と男性のヌード画像の圧倒的な比率の差で、男性のハダカ画像についてはアプリを作れるほどのサンプルが集まらなかったそうです。

実際に使ってみました

アプリはパソコンでのみ使用できるもので、Windows版と、Linux版が存在しました。

無料版と有料版があり、無料版には制限がかかっていました。

制限の内容は、出来上がった画像内に「DeepNude(ディープヌード)」のサイトアドレスが入った大きなウォーターマーク」画像の端に「”FAKE”(フェイク:ニセモノ)の文字」が入るというものでした。

ちなみに、ウォーターマークというものはテレビ番組の右上などにある透かしの入ったロゴのようなもののことです。

画像で説明すると、

画像はDeepNudeを使用して作成されたものではありません。画像はイメージです。

こんな感じになります。

これでは二次利用はしづらいですし、画像によっては大事な部分がウォーターマークで隠れてしまいますよね。

有料版の方はこのウォーターマークが消えるということで、エッチな男性を中心にかなりのダウンロード数を稼いだようです。

女性にとってはAI・人工知能が作り出したニセモノのハダカとはいえ、あくまで自分の顔がついたハダカの画像を見られているわけですから迷惑この上ないアプリですよね。

アプリが生み出した悲劇

さて、このアプリですがダウンロード開始してから間もなく、開発者の男性すら思いもしなかった予想外の悲劇を生み出します。

開発者の男性は、このアプリで作られた画像の使用範囲を利用規約内において「個人でのみの使用」とし、アップロードはもちろんSNS等での配布も制限していました。

しかし、そのような利用規約がありながらもルールを破るユーザーはいるわけで・・・悲劇というのはこのアプリを利用して「リベンジポルノ」が行われてしまった。というものです。

リベンジポルノというのは、カップルや夫婦の2人が遺恨を残したまま別れてしまった場合に起こる、相手に対しての復讐方法のひとつです。

2人がまだ愛し合っていたころに撮影された、キスをしている画像やヌードの画像など、少なくとも心を許した相手にしか見せないような姿が写っている画像を、恨みをもっている側がSNS等を使って、相手の新しいパートナーや友人、または不特定多数に配信してしまうことです。

いくら愛し合ってるからといっても大きく報道されることは少なくなりましたがこのテの事件はかなり頻繁に起こっていて、リベンジポルノを警戒することから自分のハダカを相手に撮影させない女性が増えてきています。

しかし、いくら警戒していたとしてもアプリ「DeepNude(ディープヌード)」を使えばハダカの画像は容易に作ることが出来てしまいます。

ディープヌードの開発者に宛てて、アプリがリベンジポルノに利用された旨のクレームを伝えた女性も、前述したようにリベンジポルノを警戒し、セクシャルな写真は相手に一切撮らせないようにしていました。

そこまでしていたのにも関わらず、存在するはずのない自分のハダカ画像が出回っていることを知った女性にとってはまさに青天の霹靂(へきれき)。その時のショックは伺い知ることができません。

この内容を受けて、アプリ開発者の男性はすぐさまダウンロードサイトからアプリを削除し、使用できないものとしました。

早急な対応は良かったと思われますが、結果としてはすでに手遅れな状態となっています。

「DeepNude(ディープヌード)」は不特定多数の人間にダウンロードされているわけで、そのコードを利用すれば新たな同類のアプリを作成することは難しいことではありません。

アプリ開発者の男性が、まず最初にするべきだったことは、アプリをダウンロードサイトに登録する前に、ディープヌードが引き起こすであろう事件やトラブルを考えられる限り挙げていくことでした。

そうすることで、おのずと「悪用される可能性が高いから、世間に出すのはやめよう」という選択肢を選ぶことができたのではないでしょうか。

是非とも、もっとアタマの良い技術者の方には、こういった悪用される可能性の高いアプリをネット上から根絶させられるようなAI・人工知能を作ってほしいものですね。