Google анонсировал новый инструмент, который поможет быстро проверять, создан ли определенный файл — изображение, видео, аудиофайл или текст — с помощью его ИИ-технологий. Инструмент называется SynthID Detector и стал доступен на конференции Google I/O.

Как работает SynthID Detector

SynthID Detector использует технологию водяных знаков SynthID, разработанную Google, для идентификации контента, созданного искусственным интеллектом. Пользователи могут загружать различные файлы, и инструмент определит, был ли создан весь файл или его часть с помощью ИИ.

Рост использования ИИ-контента

Запуск SynthID Detector совпадает с резким увеличением объемов медиа, созданного ИИ. Например, по оценкам, количество deepfake видео увеличилось на 550% с 2019 по 2024 год. Издание The Times сообщает, что среди двадцати самых просматриваемых постов на Facebook в США осенью прошлого года четыре были явно созданы с использованием ИИ.

Ограничения SynthID Detector

Несмотря на свои преимущества, SynthID Detector имеет определенные ограничения. Он может выявлять только тот медиа-контент, который был создан с использованием технологий, соответствующих спецификации SynthID, что в основном включает продукты Google. У Microsoft, Meta и OpenAI есть свои собственные технологии водяных знаков, которые не совместимы с SynthID.

Кроме того, необходимо отметить, что SynthID не является идеальным решением. Google признает, что его технологии могут быть обойдены, особенно в случае текстовых материалов.

Широкое применение технологии

На защиту SynthID, Google утверждает, что его стандарт уже активно используется. По заявлению компании, с момента запуска в 2023 году более 10 миллиардов медиафайлов были отмечены водяным знаком SynthID.

Таким образом, Google стремится предложить пользователям инструменты для более надежного выявления контента, созданного ИИ, что особенно важно в условиях растущей популярности таких технологий.