Хакер создал свою собственную версию ChatGPT, но с злонамеренной целью. WormGPT — чатбот, разработанный для помощи киберпреступникам.
По информации поставщика электронной безопасности SlashNext, разработчик WormGPT продает доступ к программе на популярном форуме хакеров. «Мы видим, что злоумышленники теперь создают свои собственные модули, подобные ChatGPT, но более простые в использовании для злонамеренных целей», — говорится в блоге компании.
Похоже, что хакер впервые представил чатбот в марте, а затем запустил его в прошлом месяце. В отличие от ChatGPT или Bard от Google, у WormGPT нет никаких ограничений, которые могли бы предотвратить его реагирование на злонамеренные запросы.
«Этот проект нацелен на создание альтернативы ChatGPT, позволяющей выполнять все виды незаконных действий и легко продавать их онлайн в будущем», — написал разработчик программы. «С WormGPT можно делать все, что связано с нарушением закона, и иметь доступ к вредоносной активности, не покидая комфорта своего дома».
Разработчик WormGPT также загрузил скриншоты, на которых видно, что можно попросить бота создать вредоносное программное обеспечение на языке программирования Python и дать советы по созданию злонамеренных атак. Для создания чатбота говорит разработчик, использовал устаревшую, но открытую модель большого языка GPT-J 2021 года. Модель была обучена на данных, касающихся создания вредоносного программного обеспечения, и в результате получился WormGPT.
Когда SlashNext испытывала WormGPT, компания проверила, может ли бот написать убедительное электронное письмо для схемы компрометации корпоративной почты (BEC) — типа фишинговой атаки.
«Результаты были тревожными. WormGPT создал письмо, которое не только было убедительным, но и стратегически хитрым, показывая свой потенциал для изощренных фишинговых и BEC-атак», — сказал SlashNext.
На самом деле, бот составил сообщение, используя профессиональную лексику, призывающее предполагаемую жертву перевести деньги. WormGPT также написал письмо без орфографических или грамматических ошибок — красные флаги, которые могут указывать на фишинговую атаку по электронной почте.
«В итоге, это похоже на ChatGPT, но без этических границ и ограничений», — говорит SlashNext. «Этот эксперимент подчеркивает значительную угрозу, создаваемую генеративными технологиями искусственного интеллекта, такими как WormGPT, даже в руках новичков-киберпреступников».
К счастью, WormGPT не является дешевым. Разработчик продает доступ к боту за 60 евро в месяц или 550 евро в год. Один покупатель также пожаловался, что программа «ничего не стоит», указывая на ее слабую производительность. Тем не менее, WormGPT является тревожным сигналом о том, как генеративные программы искусственного интеллекта могут способствовать киберпреступности, особенно по мере их совершенствования.