Школьники Великобритании стали использовать искусственный интеллект для создания непристойных изображений других детей, предупреждают группы по безопасности в Интернете.
Британский центр безопасного Интернета (UKSIC) сообщил, что он начал получать сообщения из школ о том, что дети создают или пытаются создать непристойные изображения других детей с помощью генераторов изображений на основе искусственного интеллекта.
Организация по защите детей заявила, что такие изображения, которые по закону считаются материалами о сексуальном насилии над детьми, могут оказать вредное воздействие на детей, и предупредила, что они также могут быть использованы для издевательств или шантажа.
UKSIC призвала школы убедиться в том, что их системы фильтрации и мониторинга способны эффективно блокировать незаконные материалы на школьных устройствах в целях борьбы с ростом числа подобных действий.
Дэвид Райт, директор UKSIC, сказал: «Сейчас мы получаем из школ сообщения о том, что дети используют эту технологию для создания и попытки создания непристойных изображений других детей».
«Эта технология обладает огромным положительным потенциалом, но сообщения, которые мы получаем, не должны удивлять».
«Молодые люди не всегда осознают всю серьезность того, что они делают, поэтому подобные проявления пагубного поведения следует ожидать, когда новые технологии, такие как генераторы искусственного интеллекта, становятся все более доступными для населения».
«Мы ясно увидели, насколько распространены сексуальные домогательства и сексуальное насилие в Интернете, из обзора Ofsted в 2021 году, а это было время до появления технологий генеративного ИИ».
«Хотя количество случаев в настоящее время невелико, мы находимся в самом начале пути и должны видеть, что соответствующие меры принимаются уже сейчас, пока школы не оказались перегруженными и проблема не разрослась».
«Увеличение количества криминального контента, создаваемого в школах, — это то, чего мы никогда не хотели бы видеть, и необходимо срочно принять меры, чтобы предотвратить дальнейшее распространение этой проблемы».
«Мы призываем школы пересмотреть свои системы фильтрации и мониторинга, а также обращаться за поддержкой в случае инцидентов и по вопросам обеспечения безопасности».
В октябре Internet Watch Foundation (IWF) предупредила, что генерируемые искусственным интеллектом изображения сексуального насилия над детьми стали настолько реалистичными, что многие из них не отличить от реальных даже подготовленным аналитикам.
IWF заявила, что обнаружила в Интернете тысячи подобных изображений.
В последний год искусственный интеллект все чаще становится предметом обсуждения в области интернет-безопасности, в частности, после запуска в ноябре прошлого года генеративного чат-бота ChatGPT. Многие группы, правительства и отраслевые эксперты призывают к усилению регулирования этого сектора, поскольку опасаются, что он развивается быстрее, чем власти успевают на него реагировать.