Алгоритм Quiet-STaR позволяет чат-боту обдумать возможный вариант ответа, прежде чем отвечать

Сотрудничество исследователей ИИ из Стэнфордского университета и Notbad AI Inc. привело к разработке алгоритма, который позволяет существующим чат-ботам обдумывать возможные ответы на запрос, прежде чем дать окончательный ответ. Команда опубликовала на сервере препринтов arXiv работу, в которой описывается новый подход и то, насколько хорошо алгоритм работает в паре с существующими чат-ботами.

Как отмечают исследователи, общий подход, используемый нынешними чат-ботами, заключается в создании ответа на запрос, заданный человеком, на основе обучающих данных. Ни один из используемых в настоящее время чат-ботов не пытается обдумать несколько возможных ответов на запрос, прежде чем выдать тот, который, по его мнению, с наибольшей вероятностью соответствует пожеланиям человека. Если бы человек отвечал подобным образом, это можно было бы назвать простым цитированием ответа.

В новом исследовании команда исследователей предоставила чат-ботам возможность немного подумать, прежде чем ответить, и тем самым заявила, что создала способ, позволяющий чат-ботам быть гораздо более точными и отвечать на вопросы более человекоподобно.

Алгоритм Quiet-STaR работает следующим образом: сначала чат-боту предлагается дать несколько ответов на заданный запрос. Он сравнивает ответы с исходным запросом и решает, какой из них лучше. Затем он дает чат-боту указание вернуть этот ответ пользователю. Команда также наделила алгоритм способностью учиться на собственных наработках, тем самым улучшая его способности к размышлениям с течением времени.

Чтобы проверить алгоритм, исследователи добавили его в чат-бот Mistral 7B с открытым исходным кодом и протестировали его с помощью стандартного теста на логику — он набрал 47,2 %. Без алгоритма Mistral 7B набрал всего 36,3 %. Он также намного лучше справился с тестом по математике.

Команда исследователей отмечает, что их алгоритм можно подключить к любому из используемых в настоящее время чат-ботов, хотя это должны сделать их создатели, что, по их мнению, может повысить точность чат-ботов в целом.

Ответить

Ваш адрес email не будет опубликован. Обязательные поля помечены *