В новый год с новыми обещаниями. В частности, компания Facebook объявила, что будет полностью удалять с платформы видео-дипфейки. В опасности оказался контент, подпадающий под следующие критерии:
- видео отредактировали или синтезировали до такого уровня, что среднестатистический пользователь не может обнаружить в нем признаки фейка;
- контент является результатом работы искусственного интеллекта, благодаря которому скомпоновали видео, заменили или наложили не него контент, пытаясь выдать за достоверное.
Компания добавила, что такие правила не распространяются на пародийный или сатирический контент или видео, которые монтировали, просто изменив порядок слов. Однако Facebook не предоставил детали о механизме, который будет определять дипфейки или отличать их от комедийных видео.
Скорее всего, механизм до сих пор находится в разработке. Именно поэтому в сентябре прошлого года компания запустила Deep Fake Detection Challenge, в рамках которого люди со всего мира предлагали собственные идеи и инструменты с открытым кодом для определения дипфейков. Участие в конкурсе приняли Корнельский и Калифорнийский университеты, Массачусетский технологический институт (МIT), Microsoft, BBC и AWS, а также множество других медийных, академических и технических сообществ.
Facebook добавляет, что видео, не имеющие вышеуказанных характеристик, все равно может быть проверено на правдивость командой независимых фактчекеров, с которыми сотрудничает компания. Если пост признают частично или полностью фейковым, администрация ограничит его распространение в ленте новостей и запретит его рекламировать.
«Если мы просто удалим контент, помеченный как фейковый, то видео или фото продолжат распространяться в других местах по интернету и других социальных сетях. Оставляя их на нашей платформе с пометкой «фейк», мы предоставляем пользователям необходимую информацию и контекст», - сообщает пресс-служба Facebook.
