オンライン掲示板の「Reddit」やアダルトサイト「hub」などのコミュニティーは、フェイク対策に悪戦苦戦している。
しかし、無秩序に広がるインターネット空間のコンテンツ・モデレーションを人間が手作業で行うのがいかに難しいかを示している。
いまのところ、AIモデレーターを使ってディープフェイク動画を排除しているプラットフォームはGfycatのみのようだ。
製作者の知り合いの顔が使われることもあるほどだ。
削除依頼は弁護士名義が有効 SNSや掲示板の投稿を削除する場合、サイトによっては弁護士からの削除依頼しか受け付けないというところもあるようです。
だが、Gfycatは不正動画を見分けるよう、AIを訓練する方法を発見したという。
AIによって製作された動画は「ディープフェイク(deepfakes)」と呼ばれる。
どんどん速度を上げて革新を遂げていくAIには、われわれの世界を劇的に変える可能性が秘められています。
より手軽に顔の改変が可能なスマートフォンアプリも登場し、世界中でまん延した。
スマートフォン向け写真共有アプリ「Snapchat」がクラウドソーシングで集めた動画をジャーナリズムになど、状況が変化しているからだ。
GfycatのCEO、リチャード・ラバットは声明でこう述べた。
ネット空間での監視の目を強める必要がある」と警鐘を鳴らす。