Воспоминания могут быть такими же проблематичными для машин, как и для людей. Чтобы помочь понять, почему искусственные агенты создают пробелы в своих когнитивных процессах, инженеры-электрики из Университета штата Огайо проанализировали, насколько процесс, называемый «непрерывное обучение», влияет на их общую производительность.
Непрерывное обучение — это когда компьютер обучается непрерывно усваивать последовательность задач, используя накопленные знания от старых задач для лучшего усвоения новых задач.
Однако одно из главных препятствий, с которым ученые все еще должны справиться, чтобы достичь таких высот, — это научиться обходить машинное обучение, аналогичное потере памяти — процесс, известный в агентах искусственного интеллекта как «катастрофическое забывание». Поскольку искусственные нейронные сети обучаются одной новой задаче за другой, они обычно теряют информацию, полученную от предыдущих задач, что может стать проблемой по мере того, как общество все больше и больше полагается на системы искусственного интеллекта, сказал Несс Шрофф, профессор компьютерных наук и инженерии и заслуженный ученый Университета штата Огайо.
«При обучении автоматических систем управления или других роботизированных систем новым вещам важно, чтобы они не забывали уроки, которые они уже усвоили, для нашей безопасности и их собственной», — сказал Шрофф. «Наши исследования раскрывают сложности непрерывного обучения в этих искусственных нейронных сетях, и то, что мы нашли, является пониманием, которое начинает заполнять пробел между тем, как машина учится и как учится человек».
Исследователи обнаружили, что так же, как люди могут иметь трудности вспомнить противоположные факты о похожих ситуациях, но легко запоминают существенно разные ситуации, искусственные нейронные сети могут лучше вспоминать информацию, когда сталкиваются с разнообразными задачами последовательно, а не с похожими, сказал Шрофф.
Команда, включающая постдокторов Сена Лина и Пейжона Ю, а также профессоров Инбин Лианг и Шроффа, представит свои исследования в конце этого месяца на 40-й ежегодной Международной конференции по машинному обучению в Гонолулу, Гавайи, ведущей конференции по машинному обучению.
В то время как обучение автономных систем проявлять такого рода динамическое, пожизненное обучение может быть сложной задачей, обладание такими возможностями позволило бы ученым увеличивать масштаб алгоритмов машинного обучения с более высокой скоростью и легко адаптировать их к изменяющимся средам и неожиданным ситуациям. По сути, цель для этих систем заключается в том, чтобы однажды имитировать способности человека к обучению.
Традиционные алгоритмы машинного обучения обучаются одновременно на всех данных, но результаты этой команды показали, что факторы, такие как сходство задач, отрицательные и положительные корреляции, а также порядок, в котором алгоритму преподаются задачи, влияют на продолжительность времени, в течение которого искусственная сеть сохраняет определенные знания.
Например, чтобы оптимизировать память алгоритма, сказал Шрофф, различные задачи должны быть преподаны в начале непрерывного обучения. Этот метод расширяет возможности сети для новой информации и улучшает ее способность в дальнейшем усваивать другие похожие задачи.
Их работа особенно важна, поскольку понимание сходства между машинами и человеческим мозгом может открыть путь к глубокому пониманию искусственного интеллекта, сказал Шрофф.
«Наши исследования возвещают о наступлении новой эры интеллектуальных машин, которые могут учиться и адаптироваться подобно человеку», — сказал он.