В партнерстве с Google Cloud компания Google DeepMind (подразделение Google по исследованиям в области ИИ) запускает инструмент для внедрения водяных знаков и идентификации изображений, сгенерированных ИИ — но только изображений, созданных моделью генерации изображений от Google.
Этот инструмент, называемый SynthID и доступный в бета-версии для избранных пользователей Vertex AI (платформа Google для создания приложений и моделей ИИ), встраивает цифровой водяной знак прямо в пиксели изображения — делая его вроде бы невидимым для человеческого глаза, но обнаруживаемым алгоритмом. SynthID поддерживает только Imagen — модель Google для генерации изображений по тексту, которая доступна исключительно в Vertex AI.
Ранее Google заявляла, что будет встраивать метаданные, чтобы обозначить визуальный контент, созданный с помощью генеративных моделей ИИ. SynthID, очевидно, идет на шаг дальше этого.
«Хотя генеративный ИИ может раскрыть огромный творческий потенциал, он также несет новые риски, такие как возможность создателей распространять ложную информацию — как преднамеренно, так и непреднамеренно», — пишет DeepMind в блог-посте. «Умение идентифицировать контент, сгенерированный ИИ, имеет решающее значение для информирования людей о том, когда они взаимодействуют с синтетическими медиа, а также для предотвращения распространения дезинформации».
DeepMind утверждает, что SynthID, который они разработали и доработали в партнерстве с Google Research (исследовательской командой Google), сохраняется даже после модификаций изображений, таких как добавление фильтров, изменение цветов или высокая компрессия. Инструмент использует две модели ИИ — одну для внедрения водяных знаков, другую для идентификации, — которые были обучены совместно на «разнообразном» наборе изображений, говорит DeepMind.
SynthID не может идентифицировать водяные знаки с 100% уверенностью. Но инструмент различает случаи, когда изображение может содержать водяной знак, и случаи, когда изображение с высокой степенью вероятности содержит такой знак.
«SynthID не является непогрешимым против экстремальных манипуляций с изображением, но он предоставляет многообещающий технический подход, позволяющий людям и организациям ответственно работать с контентом, сгенерированным ИИ», — пишет DeepMind в блог-посте. «Этот инструмент также может развиваться вместе с другими моделями искусственного интеллекта и модальностями помимо изображений, такими как аудио, видео и текст».
Методы внедрения водяных знаков для генеративного искусства не новы. Французский стартап Imatag, запущенный в 2020 году, предлагает инструмент для водяных знаков, который, по их заявлениям, не затрагивается при изменении размера, обрезке, редактировании или сжатии изображений, аналогично SynthID. Еще одна компания, Steg.AI, использует модель ИИ для внедрения водяных знаков, которые сохраняются при изменении размера и других правках.
Однако давление на технологические компании с целью предоставить способ ясно обозначить, что работы были сгенерированы ИИ, нарастает.
Недавно Китайское управление киберпространства издало нормативы, требующие, чтобы поставщики технологий генеративного ИИ помечали сгенерированный контент — включая генераторы текста и изображений — без ущерба для пользовательского опыта. А на недавних слушаниях в сенатском комитете США сенатор Кирстен Синема подчеркнула необходимость прозрачности в генеративном ИИ, в том числе с использованием водяных знаков.
В мае на ежегодной конференции Build компания Microsoft пообещала встраивать водяные знаки в изображения и видео, сгенерированные ИИ, «с использованием криптографических методов». В другом месте, Shutterstock и стартап генеративного ИИ Midjourney приняли руководящие принципы по внедрению маркера, указывающего, что контент был создан инструментом генеративного ИИ. А в изображениях, сгенерированных DALL-E 2 от OpenAI, встроен небольшой водяной знак в правом нижнем углу.
Однако до сих пор не удалось достичь общего стандарта водяных знаков — как для их создания, так и для обнаружения.
SynthID, как и другие предложенные технологии, не будет полезен для любого генератора изображений, кроме Imagen — по крайней мере, в его текущем виде. DeepMind говорит, что рассматривает возможность предоставления SynthID сторонним разработчикам в ближайшем будущем. Но будут ли сторонние разработчики — особенно те, кто создает открытые генераторы изображений ИИ, которым не хватает многих ограничений, присущих генераторам, скрытым за API — принимать эту технологию, еще предстоит выяснить.