По мере вхождения генеративного ИИ в мейнстрим платформа краудфандинга Kickstarter боролась с формулированием политики, которая удовлетворит все стороны дебатов.
Большинство инструментов генеративного ИИ, используемых сегодня для создания искусства и текста, включая Stable Diffusion и ChatGPT, были обучены на общедоступных изображениях и текстах из Интернета. Но во многих случаях художникам, фотографам и писателям, чей контент был скопирован для обучения, не предоставили кредиты, компенсацию или возможность отказаться от участия.
Группы, стоящие за этими инструментами ИИ, утверждают, что они защищены доктриной добросовестного использования — по крайней мере, в США. Однако создатели контента необязательно согласны с этим, особенно там, где контент, сгенерированный ИИ, или сами инструменты ИИ монетизируются.
В попытке внести ясность Kickstarter сегодня объявил, что проекты на его платформе, использующие инструменты ИИ для генерации изображений, текста или других результатов (например, музыки, речи или аудио), будут обязаны раскрывать «соответствующие детали» на страницах своих проектов. Эти сведения должны включать информацию о том, как владелец проекта планирует использовать контент ИИ в своей работе, а также какие компоненты их проекта будут полностью оригинальными, а какие элементы будут созданы с помощью инструментов ИИ.
Кроме того, Kickstarter требует, чтобы новые проекты, связанные с разработкой технологий, инструментов и программного обеспечения ИИ, детализировали информацию об источниках обучающих данных, которые владелец проекта намерен использовать. Владелец проекта должен будет указать, как источники обрабатывают процессы согласия и атрибуции, говорит Kickstarter, а также внедрять собственные «гарантии» в виде механизмов отказа от участия или согласия для создателей контента.
Все больше поставщиков ИИ предлагают механизмы отказа от участия, но правило Kickstarter о раскрытии данных для обучения может оказаться спорным, несмотря на усилия Европейского союза и других по закреплению такой практики в законе. OpenAI, среди прочих, отказалась раскрыть точный источник обучающих данных для своих более поздних систем по конкурентным и, возможно, юридическим причинам.
Новая политика Kickstarter вступит в силу 29 августа. Но платформа не планирует ретроактивно применять ее к проектам, представленным до этой даты, сказала Сюзанна Пейдж-Кац, директор Kickstarter по безопасности и доверию.
«Мы хотим убедиться, что любой проект, профинансированный через Kickstarter, включает человеческое творческое участие и должным образом приписывает и получает разрешение на любую работу художника, на которую он ссылается», — написала Пейдж-Кац в блоге, который был предоставлен TechCrunch. «Политика требует, чтобы создатели были прозрачными и конкретными в том, как они используют ИИ в своих проектах, потому что когда мы все одинаково понимаем, что представляет собой проект, это создает доверие и готовит почву для успеха проекта».
Чтобы обеспечить соблюдение новой политики, для отправки проектов на Kickstarter нужно будет ответить на новый набор вопросов, в том числе несколько, касающихся того, использует ли их проект технологии ИИ для генерации произведений искусства и т.д. или основное внимание проекта уделяется разработке генеративного ИИ. Им также зададут вопрос о том, получили ли они согласие владельцев произведений, использованных для создания или обучения, в зависимости от обстоятельств, частей их проекта, сгенерированных ИИ.
После отправки проектов с ИИ они пройдут стандартный процесс модерации с участием людей. Если проект будет принят, любые компоненты ИИ будут помечены как таковые во вновь добавленном разделе «Использование ИИ» на странице проекта, говорит Пейдж-Кац.
«На протяжении наших бесед с создателями и спонсорами то, что наше сообщество хотело больше всего, — это прозрачность», — добавила она, отметив, что любое использование ИИ, которое не раскрывается должным образом в процессе отправки, может привести к приостановке проекта. «Мы рады напрямую ответить на этот призыв от нашего сообщества, добавив раздел на страницу проекта, где спонсоры могут узнать об использовании ИИ в проекте словами самого создателя».
Kickstarter впервые указал, что рассматривает изменение политики в отношении генеративного ИИ в декабре, когда заявил, что переоценит, являются ли работы, принадлежащие или созданные другими, в обучающих данных алгоритма копированием или имитацией работы художника.
С тех пор платформа двигалась к новой политике рывками.
В конце прошлого года Kickstarter запретил Unstable Diffusion, группу, пытавшуюся профинансировать проект генеративного искусства ИИ без фильтров безопасности, позволяющий пользователям генерировать любые художественные произведения, включая порнографию. Kickstarter оправдал удаление, в частности, намекая, что проект эксплуатировал отдельные сообщества и подвергал людей опасности причинения вреда.
Недавно Kickstarter одобрил, а затем удалил проект, который использовал ИИ для плагиата оригинального комикса, что свидетельствует о сложностях, возникающих при модерации работ искусственного интеллекта.