Facebook начнет активнее бороться с фейковыми видео, цель которых — манипуляция общественным мнением. Об этом руководство компании сообщило в ее официальном блоге.
Уточняется, что это касается видео, отредактированного относительно простыми и доступными инструментами, такими как Adobe Photoshop, и контента, который был изменен с помощью нейросетей и искусственного интеллекта.
«Таких видео пока еще немного, но это уже серьезный вызов нашей индустрии и обществу, тем более что они будут распространяться дальше», — говорится в сообщении руководства Facebook.
Теперь фейковые видео будут сразу удалять, если их изменили, чтобы, например, вложить в уста человека слова, которые он не говорил, и выдать эту речь за настоящую, или отредактировали таким образом, чтобы измененный вариант можно было преподнести как оригинал.
Если видео не соответствует этим критериям, но все еще кажется сомнительным, Facebook отправит его 50 партнерам, чтобы сторонние эксперты дополнительно проверили содержимое и решили, стоит ли ему ставить метку «фальшивка». По мнению разработчиков Facebook, удаление видео не всегда помогает, так как его все равно распространяют в сети, а метка поможет большему количеству пользователей узнать, что это фейк.
В сентябре Facebook запустил программу по разработке эффективной технологии распознавания дипфейков — Deepfake Detection Challenge («Задача по выявлению дипфейков»). Общий размер грантов в рамках программы — 10 млн долларов.