中国のディープフェイクアプリ「ZAO」　ヒット直後の炎上はなぜ？

8月30日に、AppleのApp Storeで中国向けに配信が開始されたのが、ディープフェイク技術を活用した顔変換アプリの「ZAO」です。中国のApp Storeランキング（無料エンターテイメント）では、瞬く間にトップの座につきました。

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen. Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) pic.twitter.com/1RpnJJ3wgT— Allan Xia (@AllanXia) 2019年9月1日

https://twitter.com/AllanXia/status/1168049059413643265
レオナルド・ディカプリオの顔をユーザーの顔と入れ替えた、ディープフェイク動画の実例。ユーザーは自撮りするだけで、アプリ内に用意されている映画やドラマの映像を選択すれば、好きな映画やドラマの主人公になることができます。

配信開始からほどなく、一部のユーザーや弁護士などがZAOの利用規約に対して、疑問の声を投げかけ始めました。ZAOの利用規約には、「アプリで作成された画像を無料かつ永久的に世界中で利用できる権利は、開発会社（Changsha Shenduronghe Network Technology）が保有する」との記載がありました。さらに、「開発会社は、ユーザーからの許可なく、この権利を第三者に譲渡することができる」との一文も。

専門家などからの批判や指摘を受けて、ZAOの利用規約は更新され、「アプリで作成された画像を無料かつ永久的に世界中で利用できる権利は、開発会社が保有する」という一文が削除されています。また、「ユーザーがアプリにアップロードした写真を削除した場合は、削除された写真をサーバーに保存しない」ともしています。

事後対応は迅速だったものの、ユーザーの不信感はぬぐい切れなかったようで、App Storeのレビューには1つ星が殺到しているようです。

※画像：
https://apps.apple.com/cn/app/zao/id1465199127

※ソース：
https://www.scmp.com/news/china/society/article/3025271/chinese-face-swapping-app-sparks-privacy-concerns-day-after
https://www.bloomberg.com/news/articles/2019-09-02/china-s-red-hot-face-swapping-app-provokes-privacy-concern

(執筆者: 6PAC)