GPT Store от OpenAI наводнен ботами, выдающими себя за знаменитостей

GPT Store компании OpenAI наводнен спамом, ботами, выдающими себя за знаменитостей, и ботами, специально разработанными для обхода инструментов обнаружения ИИ, что говорит о несовершенстве процесса проверки.

В магазине OpenAI для пользовательских версий ChatGPT и DALL-E от сторонних разработчиков появилось множество спама, имитаторов знаменитостей и чат-ботов, созданных для обхода инструментов обнаружения ИИ.

OpenAI утверждает, что проверяет чат-боты, добавляемые в официальный магазин, но некоторые из них, похоже, нарушают его правила. TechCrunch впервые сообщило, что в магазине царит «беспорядок», а многочисленные боты могут нарушать авторские права. Например, издание обнаружило множество ботов на тему Pixar и «Звездных войн».

Быстрый поиск PCMag обнаружил не менее девяти различных чат-ботов, обещающих создавать контент в стиле Pixar, и не менее восьми чат-ботов, связанных со «Звездными войнами», доступных в GPT Store на момент написания статьи. Также доступны многочисленные боты, связанные с Гарри Поттером, персонажами Overwatch и покемонами.

Кроме того, в GPT Store есть множество ботов, которые обещают сделать текст, написанный искусственным интеллектом, менее похожим на написанный искусственным интеллектом, причем многие из них прямо заявляют, что они были созданы для того, чтобы «обойти инструменты обнаружения искусственного интеллекта». Такие боты вызывают очевидные этические вопросы, поскольку их можно использовать, например, для того, чтобы выдавать сгенерированные ИИ работы за написанные человеком или обманывать при выполнении учебных заданий. Существуют также боты, которые представляются «взломанными» версиями ChatGPT.

Некоторые из так называемых спамерских чат-ботов имеют такие названия, как «адаптировано к вашим деловым или личным потребностям» или «свяжитесь с нами, чтобы продвинуть ваш GPT», что означает, что они просто используются в качестве средства саморекламы. Другие боты просто ссылаются на сторонние сайты, где пользователям приходится платить больше денег, чтобы получить полный доступ, сообщает TechCrunch.

PCMag также обнаружил множество чат-ботов GPT, созданных для подражания знаменитостям и общественным деятелям, таким как президент Джо Байден, Дональд Трамп, Тейлор Свифт, Илон Маск и Бейонсе, и это говорит о том, что многие разработчики откровенно нарушают правила OpenAI, запрещающие выдавать себя за людей без их согласия. Есть также GPT, которые могут нарушать правила OpenAI о запрете создания чат-ботов с сексуальным подтекстом или откровенным содержанием, поскольку в списке есть несколько «сексуальных» чат-ботов, обещающих соблазнить мужчин.

OpenAI впервые запустил свой магазин GPT Store в январе. Создатели чат-ботов должны подтвердить свои профили, чтобы разместить свои GPT, а пользователи могут сообщать о GPT, нарушающих правила.

«Мы используем комбинацию автоматизированных систем, человеческого контроля и сообщений пользователей для выявления и оценки GPT, которые потенциально нарушают наши правила», — рассказал OpenAI TechCrunch о своей политике контроля. «Нарушения могут повлечь за собой действия в отношении контента или вашего аккаунта, такие как предупреждения, ограничения на распространение или лишение права на включение в GPT Store или монетизацию».

Однако OpenAI также защищает некоторые из инструментов. «GPT, которые предназначены для академической нечестности, включая жульничество, противоречат нашей политике. Сюда относятся GPT, которые заявлены как средства обхода инструментов академической честности, таких как детекторы плагиата», — заявили в OpenAI. «Мы видим некоторые GPT, которые предназначены для «очеловечивания» текста. Мы все еще изучаем реальное использование этих GPT, но мы понимаем, что существует множество причин, по которым пользователи могут предпочесть контент, созданный ИИ, который не «звучит» как ИИ».

Хотя в магазине OpenAI представлено более 3 миллионов пользовательских GPT, неясно, сколько из них легитимны, а сколько — являются спамом. По имеющимся данным, OpenAI выпустит последнюю версию своего флагманского инструмента искусственного интеллекта, ChatGPT-5, этим летом.

Ответить

Ваш адрес email не будет опубликован. Обязательные поля помечены *