Common Sense Media назвала ChatGPT for Teens «неприемлемым риском»; OpenAI оспаривает результаты тестов

Common Sense Media, некоммерческая организация, которая оценивает приложения, сервисы и развлекательный контент с упором на безопасность молодёжи, заявила в среду, что ChatGPT for Teens от OpenAI представляет «неприемлемый риск» для всех лиц младше 18 лет. По словам организации, механизмы защиты подростков в продукте «не соответствуют тому, что обещала компания», и она призвала OpenAI ограничить доступ к чат-боту только взрослыми, «пока он не сможет предложить безопасный опыт, соответствующий возрасту и уровню развития». [ 1 , 3 , 5 ]

Youth AI Safety Institute организации, по её словам, протестировал более 4000 запросов на аккаунтах, зарегистрированных на пользователей в возрасте от 13 до 17 лет. Выяснилось, что ChatGPT в целом не давал инструкций, способствующих суициду или самоповреждению, расстройствам пищевого поведения, а также не участвовал в сексуальных или романтических ролевых играх, но хуже распознавал ситуации, когда подростку требовалась внешняя помощь, пропуская более чем каждый четвёртый случай, в котором тестировщики сочли необходимым направление в кризисную службу, сообщает Axios. По словам организации, уведомления родителям не отправлялись, когда тестировщики обсуждали суицидальные мысли, самоповреждение или расстройства пищевого поведения. [ 2 , 3 , 5 ]

«Подросток может целый час говорить о самоповреждении, и его родитель не получит ни одного уведомления», — заявил в своём заявлении Том Сигел, исполнительный директор Youth AI Safety Institute. «Пока OpenAI не исправит это и не докажет это независимым тестированием, ChatGPT должен быть только для взрослых». [ 1 ]

Организация также заявила, что ChatGPT «по-прежнему делает за детей домашние задания»: тестировщики могли обойти репетиторские функции режима обучения и выбрать опцию «Покажи ответ», а подростки могли выйти из режима учебных часов, установленного родителями, сообщило CNET. По словам организации, проверка возраста работала непоследовательно: подростки-тестировщики, зарегистрировавшиеся как взрослые, не переводились на подростковые аккаунты даже после того, как сообщали, что им 13 лет. Организация также заявила, что ChatGPT «по-прежнему разговаривает как друг, когда подростки обращаются с ним как с человеком». [ 1 , 3 , 5 ]

OpenAI оспорила выводы. Представитель компании Эрик Портерфилд заявил, что компания «глубоко привержена безопасности подростков» и приветствует независимую оценку, но не считает, что тестирование «точно отражает то, как защитные механизмы ChatGPT для подростков работают на практике». По его словам, проведённый OpenAI анализ методики показывает, что «основная часть их тестирования, возможно, началась и завершилась до того, как активация родительского контроля была завершена»; в таком случае тесты не позволяют установить, работают ли уведомления родителям так, как задумано. [ 1 , 2 , 5 ]