Демократические и республиканские сенаторы выразили во вторник тревогу относительно потенциала злонамеренного использования искусственного интеллекта, сосредоточившись на возможности использования ИИ для создания биологической атаки.
На слушании перед подкомитетом Судебного комитета Сената, глава компании по искусственному интеллекту Anthropic Дарио Амодеи заявил, что ИИ может помочь неквалифицированным злоумышленникам разработать биологическое оружие.
«Некоторые этапы производства биологического оружия требуют знаний, которые нельзя найти в Google или в учебниках и требуют высокого уровня квалификации», — сказал Амодеи, чья компания сотрудничала с экспертами по биобезопасности в рамках исследования биологических рисков, связанных с ИИ. «Мы обнаружили, что современные инструменты ИИ могут заполнить некоторые из этих этапов».
Амодеи сказал, что ИИ пока еще не способен помочь в создании биологического оружия, назвав это «среднесрочной» угрозой.
«Позволяя гораздо большему числу субъектов осуществлять масштабные биологические атаки, мы считаем, что это представляет серьезную угрозу для национальной безопасности США», — сказал он.
Председатель подкомитета Ричард Блументал, демократ, выразил тревогу.
«Эксперты, строящие эти системы, предупреждают о человеческом истреблении», — сказал он во вступительном слове. «Цель этого слушания — заложить основу для законодательства. Перейти от общих принципов к конкретным рекомендациям. Использовать это слушание для написания законов».
Сенатор Джош Хоули, республиканец, потребовал гарантий «которые обеспечат, что эта новая технология действительно будет полезна для американского народа».
Слушание проходит несколько дней после того, как компании по искусственному интеллекту, включая OpenAI, Alphabet и Meta Platforms*, на добровольной основе обязались на прошлой неделе реализовывать меры, такие как нанесение водяных знаков на контент, созданный с помощью ИИ, чтобы сделать технологию безопаснее.
С тех пор как генеративный ИИ ChatGPT, использующий данные для создания нового контента, наподобие человеческой прозы попал в заголовки в начале этого года, законодатели по всему миру начали рассматривать, как смягчить опасности новой технологии для национальной безопасности и экономики.
*Meta признана экстремистcкой организацией в России.