Компания OpenAI столкнулась с критикой со стороны собственного совета по вопросам благополучия из-за обсуждения запуска в ChatGPT режима для взрослых с откровенными диалогами. Об этом сообщает The Wall Street Journal.
По данным издания, часть экспертов предупреждает о потенциальных рисках. В частности, речь идет о возможности усиления зависимости пользователей, а также о доступе несовершеннолетних к подобному контенту.
Отдельно высказываются опасения, что подобный функционал может использоваться в небезопасных сценариях общения, включая обсуждение чувствительных тем без должных ограничений.
Генеральный директор OpenAI Сэм Альтман публично поддержал идею расширения возможностей сервиса. Он заявил, что компания исходит из принципа самостоятельности взрослых пользователей и не рассматривает себя как регулятора моральных норм.
В самой OpenAI признают, что запуск нового режима может способствовать росту аудитории и выручки. При этом в компании подчеркивают необходимость внедрения дополнительных механизмов модерации и правил, которые должны снизить риски и предотвратить нежелательные формы взаимодействия между пользователями и системой.
Ранее The Wall Street Journal сообщала о проблемах с точностью ответов ChatGPT, отмечая случаи некорректных или ошибочных утверждений. В OpenAI заявили, что такие носят редкий характер и ведется работа по их устранению.
Представитель компании Ник Терли сообщил, что разработка новых функций сопровождается консультациями со специалистами, включая медицинских экспертов.
Читайте также: Тетрадь смерти: как маленький пензенский город три года не замечал каннибала