Ofcom начал расследование против X Маска из-за скандала с ИИ-изображениями

Великобритания оказалась в эпицентре масштабного скандала, связанного с платформой X, принадлежащей Илону Маску. Местный медиарегулятор Ofcom официально инициировал расследование после того, как общественность и политики выразили возмущение из-за появления на платформе сексуализированных изображений, созданных с помощью искусственного интеллекта Grok. Этот инструмент, интегрированный в X, позволяет пользователям изменять фотографии женщин и детей, убирая с них одежду или добавляя откровенные детали.

В последние недели на платформе X наблюдается всплеск публикаций подобных изображений. По словам представителей Ofcom, речь идет о материалах, которые могут нарушать британское законодательство, в частности, положения Акта о безопасности в интернете. Этот закон предусматривает жесткие санкции за распространение незаконных интимных изображений и материалов, связанных с сексуальным насилием над детьми. В случае серьезных нарушений возможен даже полный запрет работы платформы на территории страны.

Регулятор подчеркнул, что рассматривает ситуацию как приоритетную. В официальном заявлении отмечается: «Платформы обязаны защищать пользователей в Великобритании от незаконного контента. Мы не будем медлить с расследованием, если есть подозрения, что компании не выполняют свои обязанности, особенно когда речь идет о рисках для детей».

Согласно требованиям закона, все онлайн-платформы должны внедрять эффективные механизмы для предотвращения появления и распространения материалов, связанных с сексуальным насилием над детьми, а также быстро удалять такие публикации. Кроме того, компании обязаны обеспечивать возрастные ограничения для доступа к порнографическому контенту и защищать пользователей от нарушений их частной жизни.

Ofcom сообщил, что еще на прошлой неделе экстренно связался с представителями X, чтобы обсудить ситуацию. После анализа предоставленных платформой данных регулятор принял решение о начале формального расследования. В центре внимания - оценка рисков появления незаконного контента, эффективность мер по его предотвращению и удалению, а также защита несовершеннолетних пользователей.

Особое беспокойство вызывает то, что Grok, интегрированный в X, позволяет пользователям создавать изображения, на которых женщины и дети изображены в откровенных позах или в купальниках, даже если исходные фотографии были совершенно безобидными. По мнению экспертов, подобные технологии открывают новые возможности для злоупотреблений и нарушают права граждан.

В арсенале Ofcom широкий спектр инструментов воздействия: от предписаний по устранению нарушений до штрафов, которые могут достигать 10% от мирового оборота компании. В исключительных случаях регулятор вправе обратиться в суд с требованием заблокировать доступ к платформе на территории Великобритании. Власти страны уже заявили о готовности поддержать такие меры, если X не выполнит требования закона.

Пока неясно, сколько времени займет расследование. Ofcom пообещал тщательно собрать доказательства и, если нарушения подтвердятся, сначала вынести предварительное решение, а затем - окончательное. Ведомство подчеркивает, что будет действовать строго в рамках закона и обеспечит прозрачность процесса.

Скандал с Grok и X получил широкий общественный резонанс. Депутат парламента от лейбористов Джесс Асато, активно выступающая против цифрового «раздевания» с помощью ИИ, рассказала, что сама стала жертвой подобных атак. По ее словам, ежедневно на платформе появляются новые изображения, созданные с помощью Grok и других ИИ-приложений, где ее изображают в унизительных и сексуализированных образах. Асато отмечает, что многие пользователи могут создавать такие изображения бесплатно, а количество подобных приложений исчисляется тысячами.

«Женщины не давали согласия на то, чтобы их цифрово раздевали, - подчеркивает депутат. - Это должно быть остановлено. Я получаю сотни оскорбительных сообщений и вижу, как мои изображения распространяются без моего ведома».

Ситуация вокруг X и Grok поднимает острые вопросы о границах допустимого в эпоху искусственного интеллекта. Технологии, которые еще недавно казались фантастикой, сегодня используются для создания контента, способного нанести реальный вред людям. Важно, чтобы компании, управляющие такими платформами, несли ответственность за безопасность пользователей и соблюдение закона.

Пока расследование продолжается, общество и эксперты внимательно следят за развитием событий. Вопрос о том, как далеко могут зайти технологии и где проходит грань между свободой творчества и нарушением прав, остается открытым. Но очевидно одно: эпоха безответственного отношения к цифровой безопасности уходит в прошлое, и регуляторы готовы действовать решительно.