В ChatGPT появилась возможность ограничивать доступ детей к контенту

В популярном чат-боте ChatGPT реализованы дополнительные функции, позволяющие взрослым контролировать, к каким материалам получают доступ их дети. Как сообщает Reuters, такие меры были введены после того, как в Калифорнии был принят к рассмотрению иск против OpenAI и ее руководителя Сэма Альтмана. Поводом для обращения в суд стала трагедия: родители 16-летнего подростка считают, что чат-бот не остановил переписку и не среагировал должным образом, когда их сын сообщил о намерении совершить самоубийство.

Семья утверждает, что продукт компании оказался недостаточно защищенным и не смог предотвратить трагедию. В результате OpenAI пришлось пересмотреть подход к безопасности несовершеннолетних пользователей. Теперь родители могут не только просматривать историю общения ребенка с ботом, но и ограничивать доступ к определенным темам, которые считаются чувствительными или опасными.

Кроме того, появилась возможность устанавливать специальные временные рамки, в течение которых чат-бот будет недоступен для ребенка. Это позволяет родителям самостоятельно определять, когда их дети могут пользоваться сервисом, а когда доступ к нему будет заблокирован. Новые опции направлены на то, чтобы снизить риски, связанные с использованием искусственного интеллекта несовершеннолетними.

По информации Reuters, американские регуляторы все пристальнее следят за компаниями, работающими в сфере искусственного интеллекта. Их беспокоит, что подобные сервисы могут оказывать негативное влияние на психику и безопасность пользователей, особенно детей и подростков. Ранее обсуждались случаи, когда чат-боты допускали неуместные или даже опасные формы общения с несовершеннолетними.

Введение родительского контроля в ChatGPT стало ответом на растущие опасения общества и требования к более строгому регулированию цифровых продуктов. Теперь у родителей есть больше инструментов для защиты своих детей в интернете, а компании, разрабатывающие ИИ, вынуждены учитывать не только технологические, но и этические аспекты своей деятельности.