Семь ведущих компаний в области искусственного интеллекта приняли участие в саммите в Белом доме в пятницу, достигнув соглашения с администрацией Байдена о введении новых механизмов безопасности для своих систем и пользователей, таких как нанесение водяных знаков на контент, созданный искусственным интеллектом.
«Эти обязательства реальны и конкретны», — заявил президент Джо Байден в своем выступлении в Белом доме в пятницу после встречи. «Искусственный интеллект изменит жизни людей по всему миру. Люди, собравшиеся здесь, будут играть ключевую роль в обеспечении этой инновации ответственностью и безопасностью».
Ранее в тот же день семь компаний, включая Amazon, Anthropic, Meta*, Google, Inflection и OpenAI, добровольно и иногда расплывчато обязались инвестировать в исследования и безопасность, проводить стресс-тестирование системы на безопасность, а также помогать в проведении аудитов уязвимостей системы третьими сторонами.
«Искусственный интеллект должен приносить пользу всему обществу. Для этого эти мощные новые технологии должны быть созданы и использованы ответственно», — заявил президент по глобальным вопросам Meta* Ник Клегг в пятницу. «При разработке новых моделей искусственного интеллекта технологические компании должны быть прозрачными в отношении работы своих систем и тесно сотрудничать с представителями отрасли, правительством, академией и общественными организациями».
Большинство компаний, упомянутых в заявлении, подтвердили свои обязательства, отказавшись при этом предоставлять явные детали о том, как они планируют их выполнять. На данный момент Белый дом не предоставил никаких механизмов контроля, чтобы обеспечить выполнение обещаний компаниями.
Anthropic дал наименьшее описание своих намерений, заявив в пятницу: «Нам всем нужно принять участие в гонке за безопасностью искусственного интеллекта. В ближайшие недели Anthropic поделится более конкретными планами в области кибербезопасности, проведения тестирования на проникновение и ответственного масштабирования, и мы надеемся, что и другие будут действовать также оперативно».
Одно из наиболее значимых обязательств компаний для потребителей — это новый запрос Белого дома о нанесении водяных знаков на контент, созданный искусственным интеллектом. В ходе брифинга с журналистами в четверг представитель Белого дома заявил, что они ожидают, что эти водяные знаки будут применяться к звуковому и визуальному контенту, созданному отдельными пользователями.
В пятничной публикации в блоге OpenAI говорится, что соглашения о нанесении водяных знаков потребуют от компаний «разработать инструменты или API, чтобы определить, был ли конкретный контент создан с использованием их системы». Также говорится, что ранее легко доступный аудиовизуальный контент, такой как голосовые помощники на основе искусственного интеллекта, не будет попадать под эти обязательства.
Google обязалась внедрить аналогичные меры прозрачности ранее в этом году. Президент глобальных дел Google Кент Уокер подтвердил это обязательство в своем заявлении в пятницу, сказав, что компания «вскоре будет интегрировать водяные знаки, метаданные и другие инновационные техники» в предстоящие генеративные системы.
Многие компании, упомянутые в заявлении Белого дома, уже ранее делали подобные обещания по обеспечению безопасности своих технологий. Во вторник Meta* заявила, что откроет исходный код для своей большой языковой модели Llama 2, делая ее бесплатной для исследователей и большинства коммерческих использований, подобно GPT-4 OpenAI, который обеспечивает работу ChatGPT и Microsoft Bing. Meta* также согласилась открыть свою модель для публичной оценки на ежегодной Def Con.
«Это серьезная ответственность, и нам нужно сделать все правильно», — сказал Байден в Белом доме в пятницу.
*Meta признана экстремистcкой организацией в России.