Группа исследователей из компании DeepMind, занимающаяся разработкой следующего рубежа искусственного интеллекта — искусственного интеллекта общего назначения (AGI), пришла к выводу, что для начала необходимо решить один ключевой вопрос. Что именно, по их мнению, представляет собой AGI?
В общем виде его часто рассматривают как тип искусственного интеллекта, который обладает способностью понимать, обучаться и применять знания в широком диапазоне задач, работая подобно человеческому мозгу. Википедия расширяет рамки понятия, говоря о том, что AGI — это «гипотетический тип интеллектуального агента, который может научиться выполнять любую интеллектуальную задачу, которую могут выполнять люди или животные».
В уставе OpenAI AGI описывается как набор «высокоавтономных систем, превосходящих человека в выполнении наиболее экономически выгодной работы».
Эксперт по ИИ и основатель компании Geometric Intelligence Гэри Маркус определяет его как «любой гибкий и общий интеллект, обладающий изобретательностью и надежностью, сравнимой с человеческим интеллектом (или превосходящей его)».
При таком количестве вариаций определений команда DeepMind воспользовалась простым высказыванием Вольтера, прозвучавшим несколько веков назад: «Если вы хотите со мной говорить, определите свои понятия».
В статье, опубликованной на сервере препринтов arXiv, исследователи изложили так называемую «схему классификации возможностей и поведения моделей AGI».
Таким образом, они надеются создать общий язык для исследователей, которые будут измерять прогресс, сравнивать подходы и оценивать риски.
«Достижение «интеллекта» на уровне человека — это неявная или явная цель многих представителей нашей области», — сказал Шейн Легг, который ввел термин AGI 20 лет назад.
В интервью MIT Review Легг пояснил: «Я вижу очень много дискуссий, в которых люди, похоже, используют этот термин для обозначения разных вещей, и это приводит к разного рода путанице. Сейчас, когда AGI становится такой важной темой, нам необходимо уточнить, что мы имеем в виду».
В статье arXiv, озаглавленной «Уровни AGI: Операционализация прогресса на пути к AGI (Levels of AGI: Operationalizing Progress on the Path to AGI)», команда обобщила несколько принципов, необходимых для модели AGI. Среди них — фокусировка на возможностях системы, а не на процессе.
«Достижение AGI не подразумевает, что системы «думают» или «понимают», или обладают такими качествами, как сознание или разум», — подчеркивает команда.
Система AGI также должна обладать способностью к обучению новым задачам и знать, когда следует обратиться за разъяснениями или помощью к человеку для решения той или иной задачи.
Еще один параметр — ориентация на потенциальное, а не реальное развертывание программы. «Требование развертывания как условие измерения AGI создает нетехнические препятствия, такие как юридические и социальные соображения, а также потенциальные этические проблемы и проблемы безопасности», — пояснили исследователи.
Затем группа составила список пороговых значений интеллекта от «0-го уровня, без AGI» до «5-го уровня, сверхчеловек». Уровни 1-4 включали в себя уровни достижений «Начинающий», «Компетентный», «Эксперт» и «Виртуоз».
Три программы соответствовали порогу, на который был наложен ярлык AGI. Но эти три программы — генеративные текстовые модели (ChatGPT, Bard и Llama 2) — достигли только «Уровня 1, Начинающий».
Среди других программ, отнесенных к ИИ, можно назвать SHRDLU, раннюю программу для понимания естественного языка, разработанную в Массачусетском технологическом институте, которая отнесена к «Уровню 1, Начинающий ИИ».
На «Уровне 2, Компетентный» находятся Siri, Alexa и Google Assistant. Программа проверки грамматики Grammarly находится на «3-м уровне, экспертный ИИ».
Еще выше в этом списке, на «Уровне 4, Виртуоз», находятся Deep Blue и AlphaGo. На пятом, сверхчеловеческом, уровне находятся AlphaFold компании DeepMind, предсказывающая трехмерную структуру белка по последовательности его аминокислот, и StockFish — мощная шахматная программа с открытым исходным кодом.
Однако единого определения AGI не существует, и оно постоянно меняется.
«По мере того как мы все глубже понимаем эти глубинные процессы, может оказаться важным пересмотреть наше определение AGI», — говорит Мередит Рингель Моррис, главный научный сотрудник Google DeepMind по взаимодействию человека и ИИ.
«Невозможно перечислить весь набор задач, решаемых достаточно общим интеллектом», — говорят исследователи. Поэтому эталон AGI должен быть «живым» эталоном. «Поэтому такой эталон должен включать в себя структуру для создания и согласования новых задач».