Ускоренное развитие искусственного интеллекта уже может нарушить демократические процессы, такие как выборы, и даже поставить под угрозу существование человека, предупредили эксперты в области ИИ на конференции Reuters NEXT в Нью-Йорке.
Бурное развитие генеративного ИИ, способного создавать текст, фотографии и видео в ответ на произвольные запросы, в последние месяцы вызвало как восторг по поводу его потенциала, так и опасения, что он может сделать некоторые профессии устаревшими, нарушить ход выборов и даже, возможно, превзойти человека.
«Самый большой непосредственный риск — это угроза демократии… В 2024 году по всему миру пройдет множество выборов, и вероятность того, что ни на одних из них не будет подтасовок и тому подобных вещей, практически равна нулю», — заявил Гэри Маркус, профессор Нью-Йоркского университета, выступая в среду на конференции Reuters NEXT в Нью-Йорке.
Одна из основных проблем заключается в том, что генеративный ИИ ускорил создание дипфейков — реалистичных, но сфабрикованных видеороликов, созданных алгоритмами ИИ, обученными на большом количестве видеоматериалов из Интернета, — которые появляются в социальных сетях, смешивая факты и вымысел в политике.
По словам Маркуса, хотя такие синтетические медиа существуют уже несколько лет, то, что раньше стоило миллионы, теперь может стоить 300 долларов.
Компании все чаще используют искусственный интеллект для принятия решений, в том числе о ценообразовании, что может привести к дискриминационным результатам, предупредили эксперты на конференции.
Марта Телладо, генеральный директор некоммерческой организации Consumer Reports, сообщила, что в ходе расследования было установлено, что автовладельцы, проживающие в районах, где преобладает черное или коричневое население, и в непосредственной близости от районов, где проживают преимущественно белые жители, платят на 30% больше страховых взносов за автострахование.
«Нет никакой прозрачности для потребителя», — сказала она в ходе дискуссии.
Еще одна новая угроза, от которой должны защититься законодатели и технологические лидеры, — это возможность того, что ИИ станет настолько мощным, что превратится в угрозу для человечества, сказал в интервью на конференции Энтони Агирре, основатель и исполнительный директор Института будущего жизни.
«Мы не должны недооценивать, насколько мощными являются эти модели сейчас и как быстро они будут становиться все более мощными», — сказал он.
Некоммерческая организация Институт будущего жизни, ставящая своей целью снижение катастрофических рисков, связанных с развитием искусственного интеллекта, в марте попала в прессу, опубликовав открытое письмо с призывом взять шестимесячную паузу в обучении систем ИИ, более мощных, чем GPT-4 от OpenAI. Она предупредила, что лаборатории искусственного интеллекта «втянуты в неконтролируемую гонку» по созданию «мощных цифровых разумов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».
Разработка все более мощного искусственного интеллекта также чревата ликвидацией рабочих мест до такой степени, что люди могут оказаться не в состоянии просто освоить новые навыки и перейти в другие отрасли.
«Как только это произойдет, я боюсь, что будет не так просто вернуться к тому, что ИИ — это инструмент, ИИ — это то, что расширяет возможности людей. Это будет скорее то, что заменяет людей».