Подразделение Meta* по искусственному интеллекту недавно представило свой чат-бот Llama 2. Microsoft была назначена предпочтительным партнером Meta* по Llama 2, который будет доступен через операционную систему Windows.
Подход Meta* к Llama 2 контрастирует с подходом компании OpenAI, создавшей ИИ чат-бот ChatGPT. Это связано с тем, что Meta* сделала свой продукт с открытым исходным кодом – то есть оригинальный код свободно доступен, что позволяет его исследовать и модифицировать.
Эта стратегия вызвала огромную волну обсуждений. Приведет ли это к большему общественному контролю и регулированию больших языковых моделей (LLM) – технологии, которая лежит в основе ИИ чат-ботов, таких как Llama 2 и ChatGPT? Может ли это непреднамеренно усилить преступников, чтобы они использовали технологию для помощи в фишинг-атаках или в разработке вредоносных программ? И поможет ли этот ход Meta* обойти OpenAI и Google в этой быстро развивающейся области?
Что бы ни случилось, этот стратегический ход, похоже, изменит нынешний ландшафт генеративного ИИ. В феврале 2023 года Meta* выпустила первую версию LLM, названную Llama, но сделала ее доступной только для академического использования. Ее обновленная версия Llama 2 обладает улучшенной производительностью и более подходит для бизнес-использования.
Как и другие ИИ чат-боты, Llama 2 пришлось обучать с использованием онлайн-данных. Взаимодействие с этим огромным ресурсом информации помогает ей улучшать то, что она делает – предоставлять пользователям полезные ответы на их вопросы.
Первоначальная версия Llama 2 была создана с помощью «контролируемой тонкой настройки», техники, которая использует высококачественные данные вопросов и ответов для калибровки для использования общественностью. Она была дополнительно усовершенствована с помощью подкрепления обратной связью людей, которая, как следует из названия, включает оценки людей производительности ИИ для выравнивания его с человеческими предпочтениями.
Гарантированные преимущества
Принятие Meta* этики открытого исходного кода с Llama 2 позволяет ей воспользоваться тем, что, похоже, является подходом, который в прошлом сработал для компании. Инженеры Meta* известны своей разработкой продуктов для разработчиков, таких как React и PyTorch. Оба являются открытым исходным кодом и стали отраслевым стандартом. Через них Meta* установила прецедент инноваций через сотрудничество.
Выпуск Llama 2 несет в себе обещание более безопасного генеративного ИИ. Благодаря коллективной мудрости и совместному исследованию пользователи могут выявлять ошибочную информацию и любые уязвимости, которые могут быть использованы преступниками. Уже появились неожиданные приложения, такие как версия Llama 2, которую можно установить на iPhone и которая была создана пользователями, подчеркивая потенциал для творчества в рамках этого сообщества.
Но есть ограничения на то, насколько далеко Meta* позволит пользователям Llama 2 коммерциализировать свою систему ИИ. Если какая-либо сторона достигнет более 700 миллионов активных пользователей в предыдущем календарном месяце для продукта, основанного на Llama 2, ей придется запросить лицензию у Meta* . Для Meta* это открывает потенциал для совместного использования прибыли от успешных продуктов на основе Llama 2.
Стратегия Meta* резко контрастирует с более осторожным подходом ее основного конкурента OpenAI. Даже когда некоторые ставят под сомнение способность Meta* конкурировать в этой области и коммерциализировать продукты, как это сделала OpenAI с ChatGPT, решение Meta* пригласить разработчиков со всего мира в свои ряды предполагает более широкое видение. Это движение позиционирует компанию Цукерберга не просто как игрока, но как посредника, использующего глобальные таланты, чтобы внести вклад в развивающуюся экосистему Llama 2.
Эта стратегия также может быть проницательным ходом против потенциальной конкуренции со стороны таких технологических гигантов, как Google. При наличии большого количества пользователей, исследующих потенциал Llama 2, любые успешные улучшения могут быть быстро интегрированы в другие продукты Meta*. Только время покажет полное влияние этого решения, но непосредственные последствия для отрасли уже распространяются далеко и широко.
Преимущества и опасности для пользователей
Аспект публичного экспериментирования технологии с открытым исходным кодом позволяет более тщательно ее изучить, предоставляя возможность сообществу пользователей оценить сильные и слабые стороны Llama 2, включая ее уязвимость для атак. Бдительность общественности может выявить недостатки в LLM, что приведет к разработке защиты от них.
С другой стороны, возникли опасения, что это все равно, что «дать нож преступникам», поскольку это также может позволить злоумышленникам использовать технологию. Например, ее мощь могла бы помочь мошенникам построить диалоговую систему, которая генерирует правдоподобные автоматизированные разговоры для телефонных афер. Этот потенциал злоупотребления заставил некоторых призывать к регулированию технологии.
Но то, какие правила будут разработаны, кто получит власть надзора за этим процессом, и что именно нуждается в большем или меньшем контроле — все это требует тщательного планирования, чтобы убедиться, что регулирование не просто поддержит монополии крупных технологических компаний.
В развивающейся саге разработки ИИ дебаты об открытом исходном коде служат напоминанием о том, что технологические достижения редко бывают простыми или одномерными. Последствия решения Meta*, вероятно, будут распространяться по миру технологий в течение многих лет. Хотя Llama 2 пока может не соперничает по возможностям с ChatGPT, она открывает дверь для разработки множества инновационных продуктов.
Google также будет находиться под пристальным наблюдением, поскольку растут спекуляции о том, как он может отреагировать. В эпоху, когда процветает культура открытого исходного кода, не будет удивительно, если Google последует ее примеру со своими собственными релизами.
Термин «технологии для блага» стал распространенным девизом, описывающим технологические компании, использующие часть своих ресурсов, чтобы оказать положительное влияние на все наши жизни. В конечном итоге, однако, эта цель остается общей ответственностью, а не чем-то, чем должна заниматься лишь горстка компаний.
Это также цель, которая требует сотрудничества и скоординированных усилий в академических кругах, промышленности и за их пределами. Поскольку технологии LLM продолжают развиваться, многое поставлено на карту, а путь вперед полон как возможностей, так и проблем.
*Meta признана экстремистcкой организацией в России.