Компания OpenAI внедрит в ChatGPT систему родительского контроля после судебного иска от родителей 16-летнего подростка из Калифорнии, который покончил с собой этой весной.

Согласно иску, подросток использовал чат-бот для планирования суицида, а система якобы «систематически изолировала его от семьи», пишет Bloomberg.
В рамках обновления ChatGPT научится лучше распознавать признаки психического стресса у пользователей, рассказали в OpenAI. Например, при высказываниях о длительном недосыпе бот будет объяснять опасность такого состояния и рекомендовать отдых. Также усилятся меры безопасности в диалогах о суициде — после продолжительных разговоров на эту тему система будет прерывать общение.
Новые инструменты позволят родителям контролировать использование ChatGPT детьми и просматривать историю их запросов. Это решение появилось на фоне растущего давления на компании ИИ: более 40 генеральных прокуроров США потребовали от технологических компаний усилить защиту несовершеннолетних от вредоносного контента.