У OpenAI накопилось множество проблем. Газета The Washington Post сообщила вчера, что Федеральная Торговая Комиссия (FTC) проводит расследование в отношении этого лидера в области генеративного искусственного интеллекта по возможным нарушениям закона о защите прав потребителей. А в понедельник комедиантка и писательница Сара Сильверман подала иск против OpenAI и Meta* за нарушение авторских прав на ее юмористический мемуар «The Bedwetter: Stories of Courage, Redemption, and Pee», опубликованную в 2010 году.
Но в то время как судебные разбирательства и расследования OpenAI продолжают нарастать, а продукты, такие как Code Interpreter для пользователей ChatGPT Plus, продолжают выходить, в среду появилось сообщение на сайте Business Insider о том, что модель GPT-4, на которой работает ChatGPT, стала «ленивее и глупее» из-за «радикального пересмотра», что вызвало ответ от команды разработчиков компании.
Члены сообщества на форуме разработчиков OpenAI обсуждали то, что они считали снижением качества GPT-4: ухудшение способности к рассуждению и логике, отказы API и в целом худшие результаты. Они предполагали, что OpenAI могла изменить алгоритм обучения, данные обучения или инфраструктуру модели. Жалобы и сообщения о снижении качества обслуживания поступали уже несколько месяцев на Reddit-сообществах r/OpenAI и r/ChatGPT.
Один из комментаторов, сам определившийся как платный подписчик OpenAI, заявил: «Она превратилась из отличного помощника-повара в посудомоечную машину».
В ответ на это Питер Велиндер, вице-президент по продукту в OpenAI, написал в своем твиттере, что компания не только не сделала GPT-4 глупее, но каждая новая версия умнее предыдущей. Он высказал предположение, что «когда вы используете его более интенсивно, вы начинаете замечать проблемы, которые раньше не замечали». Он продолжил: «Если у вас есть примеры, где вы считаете, что качество ухудшилось, пожалуйста, отвечайте в этой ветке, и мы проведем проверку».
Хотя некоторые поддержали комментарии Велиндера, другие не согласились, и один из отвечающих назвал GPT-4 «просто хуже». И, безусловно, часть проблемы заключается в том, что GPT-4 остается «черным ящиком», и разработчики не знают, вносятся ли изменения в модель.
Это остается проблемой с момента выхода этой долгожданной модели в марте. Тогда в интернете появилось множество критики относительно сопровождавшего анонса: 98-страничного технического отчета о «разработке GPT-4».
Многие отметили, что отчет привлекал внимание в основном тем, чего в нем не было. В разделе «Пределы и ограничения этого технического отчета» говорится: «В связи с конкурентной средой и вопросами безопасности при использовании масштабных моделей, таких как GPT-4, в этом отчете не содержится дополнительной информации о структуре (включая размер модели), оборудовании, вычислительных ресурсах, создании набора данных, методах обучения или аналогичных аспектах».
*Meta признана экстремистcкой организацией в России.