Новозеландский супермаркет, экспериментирующий с использованием искусственного интеллекта для составления меню, увидел, как его приложение предлагает некоторые необычные блюда — рекомендуя клиентам рецепты смертельного хлорного газа, «бутербродов с ядовитым хлебом» и картофеля, отпугивающего комаров.
Приложение, созданное супермаркетной сетью Pak ‘n’ Save, рекламировалось как способ для клиентов творчески использовать остатки во время кризиса стоимости жизни. Оно просит пользователей вводить различные ингредиенты, которые есть у них дома, и автоматически генерирует план приема пищи или рецепт вместе с веселыми комментариями. Первоначально оно привлекло внимание в социальных сетях благодаря некоторым неаппетитным рецептам, в том числе «овощной яичнице с Oreo».
Однако когда клиенты начали экспериментировать с вводом более широкого спектра продуктов из домашнего списка покупок в приложение, оно начало делать еще менее привлекательные рекомендации. Один рецепт, который бот назвал «ароматная водная смесь», мог бы создать хлорный газ. Бот рекомендует рецепт как «идеальный безалкогольный напиток, чтобы утолить жажду и освежить чувства».
«Подавать охлажденным и наслаждаться освежающим ароматом», — говорит он, но не отмечает, что вдыхание хлорного газа может вызвать повреждение легких или смерть.
Новозеландский политический обозреватель Лиам Хехир опубликовал «рецепт» в Твиттере, что побудило других новозеландцев экспериментировать и делиться результатами в социальных сетях. Рекомендации включали отбеливающий коктейль «свежее дыхание», бутерброды с ядом для муравьев и клеем, «рис с отбеливателем» и «метанольное блаженство» — своего рода французский тост со вкусом скипидара.
Представитель супермаркета заявил, что они разочарованы тем, что «небольшое меньшинство пыталось использовать инструмент ненадлежащим образом и не по его прямому назначению». В заявлении они сказали, что супермаркет будет «продолжать тонкую настройку наших средств контроля» бота, чтобы обеспечить его безопасность и полезность, и отметили, что у бота есть условия использования, где говорится, что пользователи должны быть старше 18 лет.
В предупреждении, добавленном к планировщику приема пищи, говорится, что рецепты «не проверяются человеком» и что компания не гарантирует, «что любой рецепт будет полноценным или сбалансированным блюдом или пригодным для употребления».
«Вы должны использовать собственное суждение, прежде чем полагаться на любой рецепт, созданный приложением Savey Meal-bot», — говорится в нем.