ディープフェイク – AOSデータのアノテーションサービス

DeepFakeを利用すると、存在しない人の顔を生成したり、動画中の人物の顔を入れ替えたりすることができます。

これは、GAN(generative adversarial networks: 敵対的生成ネットワーク)という機械学習の手法を採用していて、一方のAIが動画を作成し、もう一方のAIがそれを評価して合成したものかを判断するという形で学習を進めていきます。

GANは自動運転に必要なデータを生成することができるなど多くのメリットがありますが、DeepFakeとしてポルノや政治批判などに悪用することができてしまい問題になっています。

さまざまな企業がこの問題に対処するために検出システムを作るなどの対応をしていて、これに対抗する手段を見つける努力をしています。