Четыре кибер-злоумышленника в Китае были арестованы за разработку программ-вымогателей с помощью ChatGPT — это первый подобный случай в стране, связанный с популярным чат-ботом, который официально не доступен в стране.
Согласно сообщению государственного агентства Синьхуа, опубликованному в четверг, об атаке впервые сообщила неизвестная компания из Ханчжоу, столицы восточной провинции Чжэцзян, системы которой были заблокированы вымогательским ПО. Хакеры потребовали 20 000 Tether, стабильной криптовалюты, привязанной один к одному к доллару США, за восстановление доступа.
В конце ноября полиция арестовала двух подозреваемых в Пекине и еще двух во Внутренней Монголии, которые признались, что «писали версии программ-вымогателей, оптимизировали программы с помощью ChatGPT, проводили сканирование уязвимостей, получали доступ путем проникновения, внедряли программы-вымогатели и занимались вымогательством», говорится в докладе.
В отчете не говорится, было ли использование ChatGPT частью обвинений. В Китае он находится в серой правовой зоне, поскольку Пекин стремится ограничить доступ к иностранным продуктам генеративного искусственного интеллекта.
После того как в конце 2022 года OpenAI представила свой чат-бот, вызвав тем самым гонку вооружений в этой области среди технологических гигантов, ChatGPT и подобные продукты вызвали интерес у китайских пользователей. Однако OpenAI заблокировала адреса интернет-протоколов в Китае, Гонконге и на рынках, находящихся под санкциями, таких как Северная Корея и Иран. Некоторые пользователи обходят ограничения, используя виртуальные частные сети (VPN) и телефонный номер из поддерживаемого региона.
С коммерческой стороны, согласно отчету юридической фирмы King & Wood Mallesons, существуют «риски нарушения законодательства» для национальных компаний, которые создают или арендуют VPN для доступа к сервисам OpenAI, включая ChatGPT и генератор текста в изображение Dall-E.
Судебные дела, связанные с генеративным ИИ, участились, учитывая популярность технологии. В феврале полиция Пекина предупредила, что ChatGPT может «совершать преступления и распространять слухи».
В мае полиция северо-западной провинции Ганьсу задержала человека, который якобы использовал ChatGPT для создания фальшивой новости о крушении поезда и распространил ее в Интернете, получив более 15 000 кликов.
В августе полиция Гонконга арестовала шесть человек в рамках борьбы с мошенническим синдикатом, который использовал технологию deepfake для создания поддельных изображений идентификационных документов, используемых для мошенничества с кредитами, направленного на банки и кредиторов.
Споры вокруг этой технологии возникают и за рубежом. Брайан Худ, мэр австралийского города Хепберн-Шайр, в марте направил OpenAI судебное уведомление после того, как ChatGPT ошибочно обвинил его во взяточничестве и коррупционном скандале.
В этом году Федеральная торговая комиссия США выпустила предупреждение о мошенниках, использующих клонированные ИИ голоса для выдачи себя за других людей, что можно сделать, используя всего лишь короткий фрагмент голоса человека.
В последнее время люди и организации, чьи работы использовались для обучения больших языковых моделей, выступают против массового нарушения прав интеллектуальной собственности. На этой неделе газета The New York Times подала в суд на OpenAI и компанию Microsoft, утверждая, что мощные модели компаний использовали миллионы публикаций для обучения без разрешения.