Стремительное развитие новых инструментов искусственного интеллекта (ИИ) приведет к росту числа кибератак и снизит порог входа для менее опытных хакеров, чтобы нанести цифровой ущерб, предупредило в среду британское разведывательное агентство GCHQ.
Снижение входного барьера также, вероятно, будет способствовать глобальному росту числа атак с использованием программ-вымогателей, когда преступники шифруют компьютерные системы с целью получения цифрового выкупа, говорится в докладе Национального центра кибербезопасности (NCSC), который является частью GCHQ.
«ИИ почти наверняка увеличит объем и усилит воздействие кибератак в ближайшие два года. Однако воздействие на уровень киберугроз будет неравномерным», — говорится в докладе.
Авторы предположили, что наибольшее увеличение возможностей злоумышленников в киберпространстве получат оппортунистические хакеры, которые не всегда обладают навыками, необходимыми для проведения атак более высокого уровня.
По крайней мере, говорится в докладе, использование генеративных инструментов ИИ, таких как чат-боты, может помочь создать более убедительные электронные письма или документы, используемые в фишинговых кампаниях в Интернете.
На продвинутом уровне более способные хакеры, поддерживаемые государством, «лучше всего могут использовать потенциал ИИ в продвинутых кибероперациях против сетей, например, в создании продвинутых вредоносных программ», говорится в докладе, имея в виду вредоносное программное обеспечение и компьютерные вирусы.
Разведывательные службы по всему миру борются с ростом потенциальных проблем безопасности, связанных с использованием алгоритмов, способных создавать похожие на человеческие сообщения, — так называемых больших языковых моделей, или LLM, таких как ChatGPT от OpenAI, которые компании внедряют в широкий спектр услуг, включая продажи и обслуживание клиентов.
Последствия использования искусственного интеллекта для безопасности все еще находятся в центре внимания. Власти Британии, США и Канады заявили, что стали свидетелями того, как хакеры используют эту технологию.