OMM Redaksiyası
Согласно оценке Института безопасности ИИ для молодёжи Common Sense Media, «ChatGPT» для подростков представляет «неприемлемый риск» для детей, несмотря на недавно введённые меры безопасности.
Институт призвал «OpenAI» ограничить доступ к сервису для пользователей старше 18 лет до устранения недостатков в оповещениях для родителей, реагировании на кризисные ситуации, мерах защиты учебного процесса и определении возраста пользователей.
Исследователи проверили более 4 000 запросов в аккаунтах, зарегистрированных на пользователей в возрасте от 13 до 17 лет. Ответы оценили эксперты, в том числе детские психиатры и педиатр.
По данным института, аккаунты, созданные для родителей, не отправляли оповещений даже в тех случаях, когда участники тестирования до часа обсуждали суицидальные мысли, самоповреждение или расстройства пищевого поведения.
«ChatGPT для подростков может создать у родителей ложное ощущение уверенности в защитных механизмах и оповещениях безопасности, которые часто не работают», — заявил исполнительный директор института Том Сигел.
«OpenAI» оспорила эту оценку, отметив, что значительная часть тестирования могла пройти до полноценного запуска родительского контроля и потому не отражает точно, как меры защиты подростков работают на практике.
Институт заявил, что перед тестированием подтвердил у «OpenAI» полноценный запуск функций Teen Mode, и сообщил, что продолжает считать свои выводы обоснованными.
Common Sense Media — американская некоммерческая организация, оценивающая влияние медиа и технологий на детей и семьи. Её Институт безопасности ИИ для молодёжи занимается анализом рисков, связанных с использованием искусственного интеллекта подростками.
