Anthropic, стартап по искусственному интеллекту, получивший поддержку от Google и основанный бывшими инженерами OpenAI, представил новое поколение своей флагманской модели большого языка, Claude.
Как сообщается в статье блога компании, Claude 2 обладает улучшенной производительностью и более длинными ответами. Впервые Anthropic выпустила публично доступный бета-сайт для опробования модели, хотя он доступен только для пользователей из США и Великобритании, и доступность была ограничена из-за «ограничений мощности». Однако в ближайшие месяцы она станет доступной для пользователей по всему миру.
Claude 2 развивается на основе последнего обновления Claude, которое в мае расширило его возможности анализа текста с 9 000 до 100 000 токенов, что соответствует примерно 75 000 словам или шести часам транскрибированного аудио в каждом промпте. Это означает, что он может проводить деловые или технические анализы длинных документов, таких как финансовые отчеты или научные статьи. Он может делать краткое изложение длинных подкастов. Он также способен писать более длинные документы.
Например, Claude 2 может «цифровизировать, резюмировать и объяснить» финансовые отчеты для анализа стратегических рисков и возможностей компании.
Anthropic заявляет, что другие сферы применения включают оценку плюсов и минусов законодательства, изучение юридических документов, а также документации для разработчиков. Он также может «быстро создавать прототипы, вставляя в контекст целую кодовую базу и интеллектуально строить на ней или модифицировать ее».
Улучшения Claude 2
Последняя версия Claude получила улучшенные навыки в программировании и математике, а также улучшенное мышление.
Claude 2 набрал 76,5% в разделе множественного выбора экзамена на получение адвокатской лицензии в США, что является повышением по сравнению с предыдущей версией, где результат составлял 73%. На тесте GRE — стандартизированном тесте для поступления в программы магистратуры в США — Claude показал результаты, превышающие 90-й процентиль по чтению и письму, а также находящиеся на уровне медианы по количественному рассуждению.
Anthropic сравнила Claude 2 с «дружелюбным, восторженным коллегой или личным помощником, которого можно научить общаться естественным языком для выполнения множества задач».
Стартап предлагает API Claude 2 для бизнеса по той же цене, что и Claude 1.3.
Безопасность превыше всего, недовольство Стэнфорда
Anthropic опиралась на свои исследования, направленные на оснащение больших языковых моделей (LLM) тем, что она называет «конституционным искусственным интеллектом», при котором модели были обучены отвечать на адверсарные вопросы с использованием набора принципов в качестве руководства, чтобы выходы были менее вредными. Хотя ни одна модель не застрахована от обхода, Anthropic заявляет, что использовала «различные техники безопасности» для улучшения результатов, включая проведение red teaming, то есть привлечение сотрудников для выявления уязвимостей в архитектуре безопасности модели.
Исследователи Anthropic также экспериментировали с «моральной самокоррекцией» — идеей, что языковые модели, обученные с использованием обучения с подкреплением на основе обратной связи от людей (RLHF), могут контролировать и исправлять себя, чтобы избежать генерации вредных результатов, если им было дано такое указание.
«Мы работаем над улучшением основной безопасности Claude 2, чтобы он стал менее вредным и труднее подводимым к созданию обидных или опасных результатов», — говорится в заявлении Anthropic.
Однако недавнее исследование, проведенное учеными из Стэнфорда, классифицировало оригинального Claude как одну из наименее совместимых с Законом об искусственном интеллекте Европейского союза.
Восходящая звезда Anthropic
Звезда Anthropic продолжает восходить на поле искусственного интеллекта. Будучи представленной только в этом году, стартап оказался в одном ряду с OpenAI и Google.
В последние месяцы генеральному директору Дарио Амодею удалось провести встречи с вице-президентом США и премьер-министром Великобритании вместе со своим бывшим начальником в OpenAI, генеральным директором Сэмом Альтманом.
За последние четыре месяца Anthropic привлекла 450 миллионов долларов инвестиций, получив поддержку от Google, Salesforce и Zoom.