Если вам нужна еще одна причина скептически относиться к генеративному ИИ, взгляните на недавнее интервью Дебби Вайнштейн, вице-президента Google Великобритании, Би-би-си. Она рекомендует людям использовать Google Поиск, чтобы проверить контент, сгенерированный ИИ Bard.
В интервью Вайнштейн говорит, что Bard следует рассматривать скорее как «эксперимент», более подходящий для «сотрудничества в решении проблем» и «создания новых идей». Похоже, Google и не собиралась использовать ИИ в качестве источника «конкретной информации». Помимо проверки любой предоставленной Bard информации, она предлагает использовать кнопки «нравится» и «не нравится» внизу сгенерированного контента, чтобы дать обратную связь для улучшения чат-бота. Как отмечает Би-би-си, на домашней странице Bard говорится, что у него есть ограничения и он не всегда прав, но не повторяет совет г-жи Вайнштейн проверять результаты через Google Поиск.
С одной стороны, Дебби Вайнштейн дает разумные советы. У генеративных ИИ есть огромная проблема с правильностью. Они галлюцинируют, то есть чат-бот может придумать совершенно ложную информацию при генерации текста, соответствующего запросу. Эта проблема даже подвела двух юристов из Нью-Йорка, которые использовали ChatGPT в деле и представили «вымышленные юридические исследования», на которые ИИ сослался.
Так что определенно неплохая идея проверять все, что говорит Bard. Однако, учитывая, что эти комментарии исходят от вице-президента компании, это немного беспокоит.
Анализ: И в чем смысл?
В общем, Bard по сути является изысканной поисковой системой. Одна из его основных функций — быть «трамплином для любопытства»; источником фактической информации. Основное отличие Bard от Google Поиска заключается в том, что первый относительно проще в использовании. Он намного более разговорный, плюс ИИ предлагает важный контекст. Нравится это Google или нет, люди будут использовать Bard для поиска информации.
Особенно странными кажутся комментарии Вайнштейн в свете планов компании для Bard. Во время I/O 2023 мы увидели разные способы, которыми модель ИИ могла бы улучшить Google Поиск — от предоставления исчерпывающих результатов по теме до создания плана тренировок. Для работы этих двух случаев использования и многих других требуются фактические данные. Имеет ли Вайнштейн в виду, что это обновление тщетно, поскольку оно использует технологию ИИ Google?
Хотя пока только один представитель Google утверждает это, она является вице-президентом Google. Если чат-ботом не следует пользоваться для получения важной информации, то зачем он добавляется в поисковую систему как способ дополнительно улучшить ее? Зачем внедрять что-то, что, по-видимому, ненадежно?
Это странное заявление, но есть надежда, что оно не будет повторяться в компании. Генеративный ИИ здесь, чтобы остаться, и важно, чтобы мы доверяли ему выводить точную информацию.