В конце прошлой недели раздел Microsoft Travel на сайте MSN.com опубликовал статью, сгенерированную искусственным интеллектом, о «непременных» достопримечательностях Оттавы, в которую вошел Оттавский продовольственный банк — реальная благотворительная организация, кормящая нуждающиеся семьи. В рекомендательном тексте ИИ Microsoft написал: «Подумайте о том, чтобы зайти туда с пустым желудком».
Статья под названием «Собираетесь в Оттаву? Вот что вам стоит посмотреть!» превозносит достоинства канадского города и рекомендует посетить фестиваль Зимние забавы (который проходит только в феврале), побывать на игре хоккейной команды «Оттава Сенаторз» и покататься на коньках на «Крупнейшем в мире естественном ледовом катке».
Под номером 3 в списке рекомендаций Майкрософт Трэвел предлагает посетить Оттавский продовольственный банк, скорее всего, почерпнув информацию из онлайн-резюме, но завершив ее неудачной фразой.
«Организация с 1984 года собирает, покупает, производит и доставляет продовольствие нуждающимся людям и семьям в районе Оттавы. Мы наблюдаем, как голод влияет на мужчин, женщин и детей ежедневно, и как он может стать препятствием на пути к достижению целей. Люди, которые приходят к нам, имеют работу и семьи, которые нужно обеспечить, а также счета, которые необходимо оплатить. И без того трудная жизнь становится еще сложнее. Подумайте о том, чтобы зайти туда с пустым желудком».
Последняя фраза — пример той пустой банальности (или неловкого ошибочного резюме), которую легко можно найти в текстах, сгенерированных ИИ, вставленных бездумно, потому что ИИ-модель, стоящая за статьей, не может понять контекст того, что она делает.
Статья подписана «Майкрософт Трэвел», и, скорее всего, является продуктом большой языковой модели (LLM) — вида ИИ-модели, обученной на огромном массиве текстов из интернета. Компания Майкрософт, партнер OpenAI, произвела фурор с LLM под названиями GPT-3 в 2020 году и GPT-4 в 2023 году. Критики утверждают, что обе модели часто использовались для неподходящих задач, несмотря на то, что они могут имитировать человеческий стиль письма.
После объявления в январе о масштабных инвестициях и сотрудничестве с OpenAI, создателем ChatGPT, а также появления Bing Chat в следующем месяце, Майкрософт экспериментирует с интеграцией контента, сгенерированного ИИ, в свои интернет-публикации и сервисы, такие как добавление ИИ-генерированных историй в поиск Bing и включение ИИ-генерированных резюме обзоров приложений в Магазин Microsoft. Похоже, «Майкрософт Трэвел» — еще одно применение генеративного ИИ.
Технический писатель Парис Маркс первым обратил внимание на пост об Оттавском продовольственном банке на Bluesky в конце прошлой недели. В ответ на пост Маркса частый критик LLM Эмили Бендер отметила: «Я не могу найти ничего на этой странице, что явно помечало бы ее как сгенерированную ИИ. Похоже, это серьезное нарушение двух их принципов «Ответственного ИИ».
Бендер также сослалась на политики Майкрософт; одна из них — «Прозрачность», и там говорится: «Как люди могут неправильно понять, неправильно использовать или неверно оценить возможности системы?», а другая — «Подотчетность», в которой сказано: «Как мы можем создать надзор, чтобы люди могли нести ответственность и контроль?»
Судя по содержанию статьи об Оттаве, более чем вероятно, что человек не несет ответственности за написание статьи и что никто не проверил ее содержание перед публикацией, что означает, что Майкрософт публикует контент, сгенерированный ИИ, в интернете практически без надзора.