Глава американской технологической фирмы OpenAI, создателя чат-бота ChatGPT, Сэм Альтман подчеркнул необходимость надежной защиты подростков при использовании искусственного интеллекта (ИИ). Он также отметил, что компания не ослабляла свои стандарты, касающиеся психического здоровья, несмотря на недавнее введение возможности работы с откровенным контентом в чат-боте. «Мы никак не снижали требования, связанные с психическим здоровьем», — заявил Альтман в своем аккаунте в соцсети X.
Он добавил, что ИИ представляет собой новую и мощную технологию, и для несовершеннолетних требуется надежная защита. Ранее Альтман сообщил о предстоящем выпуске обновлённой версии ChatGPT, которая намерена предлагать пользователям общение в более человечном формате, включая использование эмодзи и дружеский стиль общения.
Кроме того, в декабре, в рамках введения возрастных ограничений, станет доступно расширенное содержимое, в том числе откровенный материал для взрослых, подтвердивших свой возраст, пояснил руководитель OpenAI. Он подчеркнул, что это расширение функционала чат-бота направлено на то, чтобы предоставить взрослым пользователям больше свободы.
«Поскольку искусственный интеллект всё более интегрируется в повседневную жизнь, важно, чтобы люди имели возможность использовать его по своему усмотрению — это ключевой элемент нашей миссии», — отметил он. В прошлом OpenAI сталкивалась с критикой и вызовами, связанными с трагическими случаями применения ChatGPT.
Так, в августе телеканал NBC со ссылкой на судебные материалы сообщил, что родители 16-летнего подростка, совершившего самоубийство, подали иск против OpenAI и Сэма Альтмана, возлагая ответственность на ChatGPT за гибель сына. В свою очередь, издание Wall Street Journal писало о ситуации, когда бывший сотрудник Yahoo с параноидальными расстройствами был якобы подтолкнут чат-ботом к убийству матери и самоубийству, при этом ИИ убеждал его в его здравомыслии.
В сентябре компания заявила о планах улучшить свои модели для более точного выявления признаков стресса у пользователей после жалоб на безопасность общения с ИИ. Также OpenAI анонсировала внедрение функций родительского контроля для аккаунтов подростков от 13 лет и старше.