Компания Amazon запускает чат-бота на базе искусственного интеллекта для клиентов AWS под названием Q.
Представленный на конференции Amazon re:Invent в Лас-Вегасе, Q — по цене от 20 долларов США за пользователя в год и в настоящее время находящийся в стадии публичного предварительного просмотра — может ответить на вопросы типа «Как мне создать веб-приложение с помощью AWS?». Опираясь на 17-летний опыт работы с AWS, Q предложит список потенциальных решений, а также объяснит причины, почему вы должны рассмотреть его предложения.
«Вы можете легко общаться, генерировать контент и предпринимать действия с помощью Q», — сказал на сцене генеральный директор AWS Адам Селипски. «Все это основывается на понимании ваших систем, ваших хранилищ данных и ваших операций».
Клиенты AWS настраивают Q, подключая его к приложениям и программному обеспечению с учетом специфики организации, таким как Salesforce, Jira, Zendesk, Gmail и экземплярам хранилища Amazon S3. Q индексирует все подключенные данные и контент, «изучая» аспекты бизнеса, включая его организационную структуру, основные концепции и названия продуктов.
Из веб-приложения компания может попросить Q проанализировать, например, какие функции продукта вызывают затруднения у ее клиентов и возможные способы их улучшения — или, как в ChatGPT, загрузить файл (документ Word, PDF, электронную таблицу и т. п.) и задать вопросы об этом файле. Q использует свои связи, интеграции и данные, в том числе специфические для конкретного бизнеса, чтобы предложить ответы, а также привести цитаты.
Q не ограничивается простыми ответами на вопросы. Помощник может генерировать или обобщать контент, например записи в блогах, пресс-релизы и электронные письма. Кроме того, он выполняет действия от имени пользователя с помощью набора настраиваемых плагинов, например автоматически создает сервисные тикеты, уведомляет определенные команды в Slack и обновляет информационные панели в ServiceNow.
Чтобы предотвратить ошибки, Q позволяет пользователям проверять действия, которые он собирается предпринять, прежде чем они будут выполнены, и ссылаться на результаты для проверки.
Доступный из консоли управления AWS и вышеупомянутого веб-приложения, а также из существующих чат-приложений, таких как Slack, Q, как можно догадаться, обладает глубоким пониманием AWS и доступных через него продуктов и услуг. Amazon утверждает, что Q может понять все нюансы рабочих нагрузок приложений на AWS, предлагая решения AWS для приложений, которые работают всего несколько секунд, а не минут или часов, или приложений, которые очень редко обращаются к хранилищу.
Выступая на сцене, Селипски привел пример приложения, использующего высокопроизводительное кодирование и транскодирование видео. По словам Селипски, на вопрос о том, какой экземпляр EC2 лучше всего подходит для данного приложения, Q предоставил бы список с учетом производительности и стоимости.
«Мы хотим, чтобы Amazon Q был полезен множеству людей, выполняющих самые разные виды работ».
Q также может устранять такие неполадки, как проблемы с сетевым подключением, анализируя конфигурацию сети и предлагая шаги по их устранению.
Кроме того, Q связан с CodeWhisperer, сервисом Amazon, который может генерировать и интерпретировать код приложений. В поддерживаемой IDE (например, в CodeCatalyst от Amazon) Q может генерировать тесты для тестирования программного обеспечения, основываясь на знании кода клиента. Q также может создать проект планов и документацию для реализации новых функций в программном обеспечении или преобразования кода и обновления пакетов кода, репозиториев и фреймворков — планов, которые затем могут быть уточнены и выполнены с помощью естественного языка.
По словам Селипски, небольшая команда Amazon использовала Q для обновления около 1000 приложений с Java 8 до Java 17 — и тестирования этих приложений — всего за два дня.
Функции преобразования кода в Q поддерживают только обновление приложений на Java 8 и Java 11 до Java 17, а все функции Q, связанные с кодом, включая преобразование кода, требуют подписки на CodeWhisperer Professional. Пока не сообщается, когда и изменится ли требование подписки.
Amazon утверждает, что также создает Q для своих сторонних продуктов, таких как AWS Supply Chain и QuickSight, сервис бизнес-аналитики. Q в QuickSight может предоставлять варианты визуализации бизнес-отчетов, автоматически переформатируя их, или отвечать на вопросы о данных, на которые ссылаются или которые содержатся в отчете. В AWS Supply Chain Q может отвечать на запросы типа «Что вызывает задержку в моих поставках?», предоставляя актуальные аналитические данные.
Q также внедряется в программное обеспечение контакт-центра Amazon, Amazon Connect. Теперь, благодаря Q, агенты службы поддержки могут получать предлагаемые ответы на вопросы клиентов с предложениями действий и ссылками на соответствующие статьи поддержки без необходимости вводить вопросы клиентов в текстовую строку. Q также генерирует сводку по итогам разговора, которую руководители могут использовать для отслеживания последующих действий.
Селипски несколько раз на протяжении всего выступления подчеркивал, что ответы, которые выдает Q, и действия, которые он предпринимает, полностью контролируются и фильтруются. Q будет выдавать только ту информацию, которую пользователь имеет право видеть, а администраторы могут ограничивать чувствительные темы, заставляя Q отфильтровывать неуместные вопросы и ответы, где это необходимо.
Чтобы уменьшить количество галлюцинаций (т. е. случаев, когда Q может выдумывать факты, что является общей проблемой для генеративных систем искусственного интеллекта), администраторы могут выбрать, чтобы Q брал информацию только из документов компании, а не из каких-либо базовых моделей. По словам Селипски, модели, на которых работает Q, — смесь моделей из Bedrock, платформы Amazon для разработки ИИ, включая собственное семейство Titan — не тренируются на данных клиента.
Эти пункты, несомненно, адресованы компаниям, которые опасаются внедрять генеративный ИИ по соображениям ответственности и безопасности. Более десятка компаний ввели запреты или ограничения на использование ChatGPT, выражая обеспокоенность тем, как могут быть использованы данные, введенные в чат-бот, и риском утечки информации.
«Если у вашего пользователя нет разрешения на доступ к чему-то без Q, он не сможет получить доступ и с Q», — говорит Селипски. «Q понимает и уважает ваши существующие личные данные, ваши роли и ваши разрешения… Мы никогда не будем использовать бизнес-контент для обучения базовых моделей».
Если не принимать во внимание акцент на конфиденциальности, то во многих отношениях Q выглядит как ответ Amazon на Copilot для Azure от Microsoft, который, в свою очередь, был ответом Microsoft на Duet AI в Google Cloud. И Copilot для Azure, и Duet AI представляют собой чат-ассистентов для клиентов облачных сервисов, предлагающих конфигурации приложений и сред, а также помогающих в устранении неполадок путем выявления потенциальных проблем и их решения.
Однако Q представляется более комплексным решением, охватывающим широкий спектр задач бизнес-аналитики, программирования и настройки. Рэй Ванг, основатель и главный аналитик Constellation Research, сказал, что, по его мнению, это «самый важный» анонс на re:Invent на данный момент.
«Речь идет о том, чтобы вооружить разработчиков искусственным интеллектом, чтобы они были успешными», — сказал он. Это важное замечание, учитывая, что, по крайней мере, согласно одному из недавних опросов, многие компании, которые пробуют генеративный искусственный интеллект, с трудом находят сценарии его использования в бизнесе и преодолевают плохо продуманные варианты реализации.
Остается только посмотреть, так ли хорошо работает Q, как утверждает Amazon.