Британские официальные лица предупреждают организации о рисках интеграции чат-ботов, работающих на основе искусственного интеллекта, в их бизнес, поскольку исследования все чаще показывают, что их можно обмануть и заставить выполнять вредоносные задачи.
В двух блог-постах, которые должны быть опубликованы в среду, Национальный центр кибербезопасности Великобритании (NCSC) заявил, что эксперты пока не справились с потенциальными проблемами безопасности, связанными с алгоритмами, которые могут генерировать взаимодействия, напоминающие человеческую речь, — так называемые большие языковые модели или LLM.
Инструменты искусственного интеллекта уже находят раннее применение в качестве чат-ботов, которые, по мнению некоторых, могут заменить не только интернет-поиск, но и обслуживание клиентов и продажи.
NCSC заявил, что это может нести риски, особенно если такие модели будут подключены к другим элементам бизнес-процессов организации. Академики и исследователи неоднократно находили способы обмануть чат-ботов, подавая им вредоносные команды или заставляя их обходить собственные встроенные ограничения.
Например, чат-бот на основе ИИ, развернутый банком, может быть обманут и совершить несанкционированную транзакцию, если хакер правильно сформулирует свой запрос.
«Организации, создающие сервисы с использованием LLM, должны быть осторожны, как если бы они использовали продукт или библиотеку кода, которые находятся на стадии бета-тестирования», — говорится в одном из блог-постов NCSC, имея в виду экспериментальные релизы программного обеспечения.
«Возможно, они не позволят этому продукту участвовать в совершении транзакций от имени клиента и, надеюсь, не будут полностью ему доверять. Подобная осторожность должна применяться к LLM».
Власти по всему миру борются с ростом популярности LLM, таких как ChatGPT от OpenAI, которые бизнес интегрирует в самый широкий спектр услуг, включая продажи и обслуживание клиентов. Влияние ИИ на безопасность также по-прежнему находится в фокусе внимания, поскольку власти в США и Канаде заявляют, что наблюдали, как хакеры используют эту технологию.