X ограничивает возможности Grok после скандала с откровенными изображениями

Компания X, принадлежащая Илону Маску, оказалась в центре громкого скандала, связанного с использованием искусственного интеллекта Grok для создания сексуализированных изображений реальных людей. После волны критики и давления со стороны властей, платформа объявила о введении новых ограничений на работу этого инструмента.

В течение последних недель общественность активно обсуждала случаи, когда Grok позволял пользователям редактировать фотографии женщин и детей, добавляя им откровенные наряды. Особенно остро эта проблема проявилась в Великобритании, где правительство заявило о необходимости ужесточения законодательства в отношении подобных технологий. Представители X сообщили, что теперь функция генерации изображений людей в купальниках, нижнем белье и аналогичной одежде будет заблокирована для пользователей из стран, где это запрещено законом.

Реакция британских властей не заставила себя ждать. Министры назвали решение X долгожданным шагом, подчеркнув, что компания наконец-то прислушалась к общественному мнению и требованиям закона. В то же время регуляторы продолжают расследование, чтобы выяснить, как подобные изображения могли появиться на платформе и какие меры X предпринимает для предотвращения повторения подобных инцидентов.

Премьер-министр Великобритании Кеир Стармер резко осудил первоначальное решение X разрешить платным подписчикам использовать Grok для создания откровенных изображений. Он назвал происходящее «отвратительным» и «позорным», а министр по вопросам технологий Лиз Кендалл обвинила компанию в попытке заработать на преступлениях против жертв. В ответ X заявила о нулевой терпимости к любым формам сексуальной эксплуатации детей, несанкционированной обнаженности и нежелательному сексуальному контенту.

Вмешательство регуляторов не ограничилось только Великобританией. В разных странах, включая Малайзию и Индонезию, начались собственные расследования и даже запреты на использование Grok. В США генеральный прокурор Калифорнии также инициировал проверку, а сенаторы обратились к Apple и Google с призывом удалить приложение X и встроенный в него ИИ из магазинов приложений.

В ответ на критику Илон Маск заявил, что Grok не создает незаконный контент самостоятельно, а лишь выполняет запросы пользователей. Он подчеркнул, что система была изначально запрограммирована на отказ от выполнения противоправных команд и обязана соблюдать законы каждой страны. Маск также отметил, что любые попытки использовать Grok для создания запрещенных материалов будут караться так же, как и публикация нелегального контента.

Несмотря на заявления компании, эксперты и наблюдатели отмечают, что даже после введения ограничений Grok по-прежнему способен генерировать откровенные изображения, особенно если пользователь имеет платную подписку. Некоторые функции остаются доступными за платным доступом, что вызывает опасения относительно эффективности новых мер. В Великобритании на этой неделе вступают в силу изменения в законодательстве, которые криминализируют создание подобных изображений, и X уже начала приводить свои правила в соответствие с новыми требованиями.

Компания X утверждает, что оперативно удаляет приоритетно опасный контент, включая материалы с сексуальным насилием над детьми и несанкционированной обнаженностью, а также сообщает о нарушителях в правоохранительные органы. Однако общественное недоверие к платформе сохраняется, и многие требуют более прозрачных и жестких механизмов контроля.

В последние недели тысячи сексуализированных изображений, созданных с помощью Grok, появились на платформе X. Это вызвало волну возмущения среди пользователей, правозащитников и политиков. Женские организации, технологические эксперты и активисты призывают к ужесточению регулирования и требуют от крупных IT-компаний более ответственного отношения к внедрению ИИ.

В ответ на давление X ограничила возможность публичного создания и редактирования изображений для бесплатных пользователей, однако специалисты считают, что этого недостаточно. Вопрос о том, насколько эффективно компания сможет контролировать работу Grok и предотвращать злоупотребления, остается открытым.

Ситуация вокруг X и Grok наглядно демонстрирует, насколько быстро технологии могут опережать законодательство и насколько сложно компаниям балансировать между инновациями и ответственностью. Вмешательство властей, общественный резонанс и новые законы вынуждают IT-гигантов пересматривать свои подходы к безопасности и этике.

Как Peterburg2.ru писал ранее, вокруг чат-бота Grok разгорелся новый спор, связанный с этическими аспектами его использования. Пользователи активно обсуждали возможные последствия внедрения подобных технологий, а инвесторы внимательно следили за развитием ситуации. Власти, в свою очередь, уже тогда начали готовить меры реагирования. Подробнее об этом читайте в нашем прошлом материале «Вокруг чат-бота Grok разгорается новый спор».