OpenAI сотрудничает с Common Sense Media в создании рекомендаций по искусственному интеллекту

OpenAI надеется завоевать доверие родителей и политиков, сотрудничая с организациями, которые работают над минимизацией вреда технологий и медиа для детей, подростков и юношей.

Так, OpenAI сегодня объявила о партнерстве с Common Sense Media, некоммерческой организацией, которая анализирует и оценивает пригодность различных медиа и технологий для детей, для совместной работы над рекомендациями по ИИ и образовательными материалами для родителей, педагогов и молодежи.

По словам генерального директора OpenAI Сэма Альтмана, в рамках партнерства OpenAI совместно с Common Sense Media будет курировать «дружелюбные семейные» GPT — приложения с чат-ботами, работающие на основе моделей генеративного ИИ от OpenAI, — в GPT Store, на торговой площадке GPT от OpenAI, на основе стандартов рейтинга и оценки Common Sense Media.

«Искусственный интеллект предлагает невероятные преимущества для семей и подростков, и наше партнерство с Common Sense Media еще больше укрепит нашу работу по обеспечению безопасности, гарантируя, что семьи и подростки смогут использовать наши инструменты с полным доверием», — добавил Альтман в своем заявлении.

Начало партнерства состоялось после того, как OpenAI заявила, что будет участвовать в новой системе рейтингов и обзоров Common Sense Media, запущенной в сентябре и призванной оценить уровень безопасности, прозрачности, этичности использования и влияния продуктов искусственного интеллекта. По словам соучредителя и генерального директора Common Sense Media Джеймса Стейера (James Steyer), эта система призвана создать «пищевую маркировку» для приложений, использующих ИИ, проливая свет на контексты, в которых эти приложения используются, и выделяя области потенциальных возможностей и вреда в соответствии с набором принципов «здравого смысла».

В пресс-релизе Стейер ссылается на то, что современные родители в целом менее осведомлены об инструментах генеративного ИИ — например, о вирусном чат-боте ChatGPT от OpenAI, работающем на основе искусственного интеллекта, — чем более молодое поколение. Опрос Impact Research, проведенный по заказу Common Sense Media в конце прошлого года, показал, что 58 % школьников в возрасте от 12 до 18 лет пользовались ChatGPT по сравнению с 30 % родителей детей школьного возраста.

«Common Sense Media и OpenAI вместе будут работать над тем, чтобы ИИ оказывал положительное влияние на всех подростков и семьи», — сказал Стейер в заявлении. «Наше руководство и кураторство будут направлены на обучение семей и педагогов безопасному и ответственному использованию инструментов OpenAI, таких как ChatGPT, чтобы мы могли сообща избежать любых непредвиденных последствий этой развивающейся технологии».

OpenAI находится под давлением со стороны регулирующих органов, требующих доказать, что ее приложения на базе генеративного ИИ, включая ChatGPT, в целом приносят пользу обществу, а не наносят ему вред. Минувшим летом Федеральная торговая комиссия США начала расследование в отношении OpenAI по поводу того, не нанес ли ChatGPT вред потребителям своим сбором данных и публикацией ложных сведений о людях. Европейские органы по защите информации также выразили обеспокоенность по поводу работы OpenAI с личной информацией.

Инструменты OpenAI, как и все инструменты генеративного ИИ, склонны уверенно выдумывать и неверно трактовать основополагающие факты. К тому же они необъективны — это является отражением данных, которые использовались для их обучения.

Дети и подростки, зная об ограничениях инструментов или не зная о них, все чаще обращаются к ним за помощью не только при выполнении школьных заданий, но и в личных вопросах. Согласно опросу, проведенному Центром демократии и технологий, 29 % детей сообщили, что использовали ChatGPT для решения проблем, связанных с беспокойством или психическим здоровьем, 22 % — для решения проблем с друзьями и 16 % — для решения семейных конфликтов.

Ответить

Ваш адрес email не будет опубликован. Обязательные поля помечены *