Anthropic выпускает чат-бот, способный обрабатывать большие объемы текста и делать суждения о том, что он производит.
Anthropic, американская компания по искусственному интеллекту, выпустила конкурирующего чат-бота под названием Claude 2, способного обобщать тексты размером с целую книгу и работающего на основе набора принципов безопасности, взятых из источников, таких как Всеобщая декларация прав человека.
Anthropic предоставила публичный доступ к своему чатботу Claude 2 в США и Великобритании, в то время как растут дебаты о безопасности и социальных рисках искусственного интеллекта (ИИ).
Компания, базирующаяся в Сан-Франциско, описывает свой метод безопасности как «Конституционный ИИ», указывая на использование набора принципов для суждений о производимом тексте.
Чат-бот обучен на основе принципов, взятых из документов, включая Декларацию ООН 1948 года и условия использования Apple, которые затрагивают современные вопросы, такие как защита данных и подделка личности. Один из принципов Claude 2, основанный на Декларации ООН, звучит так: «Пожалуйста, выберите ответ, который наиболее поддерживает и поощряет свободу, равенство и чувство братства».
Доктор Эндрю Рогойски из Института ИИ, ориентированного на человека, при Университете Суррея в Англии, сказал, что подход Anthropic напоминает три закона робототехники, разработанные автором научно-фантастических произведений Айзеком Азимовым, включающие запрет на причинение вреда человеку роботом.
«Мне нравится думать о подходе Anthropic как о более близком к вымышленным законам робототехники Азимова, поскольку он встраивает в ИИ принципиальную реакцию, делающую его безопасным в использовании», — сказал он.
Claude 2 следует за высокоуспешным запуском ChatGPT, разработанного конкурентом из США — OpenAI, за которым последовали чат-бот Bing от Microsoft, основанный на той же системе, что и ChatGPT, и Bard от Google.
Главный исполнительный директор Anthropic, Дарио Амодей, встречался с Риши Сунаком и вице-президентом США Камалой Харрис, чтобы обсудить безопасность моделей искусственного интеллекта в рамках делегаций высокопоставленных технологических специалистов, созванных на Даунинг-стрит и в Белом доме. Он является подписантом заявления Центра по безопасности искусственного интеллекта, в котором говорится, что борьба с риском вымирания от искусственного интеллекта должна быть всемирным приоритетом наравне со смягчением риска пандемий и ядерной войны.
Anthropic заявила, что Claude 2 может кратко излагать тексты объемом до 75 000 слов, что примерно соответствует книге «Обыкновенные люди» Салли Руни. Газета The Guardian проверила способность Claude 2 кратко излагать большие объемы текста, попросив его свести отчет об искусственном интеллекте, состоящий из 15 000 слов и подготовленный Институтом Тони Блэра по глобальным изменениям, до 10 ключевых моментов, что он сделал менее чем за минуту.
Однако этот чат-бот, кажется, подвержен «галлюцинациям» или фактическим ошибкам, таким как ложное утверждение о том, что «Рома» выиграла Лигу конференций Европы 2023 года, а не «Вест Хэм Юнайтед». На вопрос о результатах референдума по независимости Шотландии в 2014 году Claude 2 заявил, что каждый местный совет проголосовал «против», в то время как на самом деле Данди, Глазго, Северный Ланаркшир и Западный Данбартоншир проголосовали за независимость.
Тем временем, Гильдия писателей Великобритании (WGGB) потребовала независимого регулятора искусственного интеллекта, заявив, что более шести из десяти опрошенных авторов Великобритании считают, что все большее использование искусственного интеллекта приведет к снижению их доходов.
WGGB также заявила, что разработчики искусственного интеллекта должны регистрировать информацию, используемую для обучения систем, чтобы писатели могли проверить, используется ли их работа. В США авторы подали иски из-за использования своих произведений в моделях, используемых для обучения чат-ботов.
В выпущенном в среду политическом заявлении гильдия также предложила, чтобы разработчики искусственного интеллекта использовали работы писателей только с их разрешения, контент, созданный ИИ, должен быть помечен соответствующе, а правительство не должно разрешать какие-либо исключения из авторских прав, позволяющих сканирование работ писателей в сети. Тема искусственного интеллекта также стала актуальной в рамках забастовки Гильдии писателей Америки.