Преступники используют программы искусственного интеллекта для фишинговых схем и создания вредоносного программного обеспечения, заявил высокопоставленный сотрудник ФБР.
Неудивительно, что преступники используют программы искусственного интеллекта с открытым исходным кодом для самых разных злодеяний, включая разработку вредоносного программного обеспечения и фишинговые атаки, заявило ФБР.
В пятницу агентство провело встречу с журналистами, чтобы обсудить, как программы искусственного интеллекта, основанные на генерации, которые пользуются популярностью в технологической индустрии, также питают киберпреступность. Злонамеренные действия варьируются от использования программ искусственного интеллекта для усовершенствования и распространения мошеннических схем до консультирования технологией террористов, для создания более эффективных химических атак.
«Мы ожидаем, что с течением времени, по мере роста и демократизации моделей искусственного интеллекта, эти тенденции будут усиливаться», — говорит высокопоставленный представитель ФБР.
ФБР не упомянуло конкретные модели искусственного интеллекта, которыми пользуются преступники. Однако официальный представитель отметил, что хакеры предпочитают бесплатные настраиваемые модели с открытым исходным кодом, а также частные разработки хакеров, которые циркулируют в мире киберпреступников за определенную плату.
Официальный представитель добавил, что опытные киберпреступники используют технологию искусственного интеллекта для разработки новых вредоносных программ и улучшения методов их доставки, в том числе с помощью использования сайтов, созданных искусственным интеллектом, в качестве фишинговых страниц, способных скрытно передавать вредоносный компьютерный код. Та же самая технология помогает хакерам разрабатывать полиморфное вредоносное программное обеспечение, способное избежать обнаружения антивирусным программным обеспечением.
В прошлом месяце ФБР также предупреждало о том, что мошенники используют генераторы изображений на основе искусственного интеллекта для создания сексуально ориентированных дипфейк-изображений жертв в попытке вымогательства денег. Точный масштаб этих различных схем, основанных на искусственном интеллекте, остаётся неясным. Однако в сегодняшнем разговоре представитель ФБР добавил, что большая часть дел, с которыми сталкивается агентство, связана с использованием преступниками моделей искусственного интеллекта для укрепления их традиционных схем. Это включает попытки обмануть близких или пожилых людей с помощью мошеннических звонков, использующих технологию клонирования голоса посредством искусственного интеллекта.
В ответ на это ФБР заявило, что провело продуктивные обсуждения с компаниями, занимающимися искусственным интеллектом, по решению этой проблемы, например, что нужно использовать систему «водяных знаков» для облегчения определения контента и изображений, созданных искусственным интеллектом.
«Мы видим это как национальный приоритет», — добавил высокопоставленный чиновник ФБР, обсуждая угрозу искусственного интеллекта. «Это недавнее событие, которое влияет на все программы ФБР».