Великобритания требует немедленных мер против фейковых изображений от Grok AI

Великобритания оказалась в эпицентре громкого скандала, связанного с распространением в сети фейковых изображений женщин и детей, созданных с помощью искусственного интеллекта Grok. Министр по вопросам технологий Лиз Кендалл выступила с жестким заявлением, назвав происходящее «шокирующим и недопустимым» для современного общества. Она подчеркнула, что подобные материалы унижают достоинство и нарушают права, особенно когда речь идет о детях и женщинах.

По словам Кендалл, платформа X, принадлежащая Илону Маску, обязана немедленно принять меры и устранить возможность создания и распространения подобных изображений. Она также выразила поддержку регулятору Ofcom, который, по ее мнению, должен использовать все доступные инструменты для наведения порядка в цифровом пространстве.

Вопросы к эффективности действующего законодательства и скорости реакции властей звучат все громче. Несмотря на принятый ранее Закон о безопасности в интернете, эксперты и общественные деятели считают, что его положения недостаточно жесткие и требуют срочного пересмотра. Особое недовольство вызывает то, что платформа X и другие крупные игроки, по мнению специалистов, слишком медленно реагируют на угрозы, связанные с новыми технологиями.

Жертвы подобных атак открыто говорят о своем разочаровании. Одна из них, Джессалин Кейн, рассказала, что Grok продолжал выполнять запросы на создание откровенных изображений даже после многочисленных жалоб. При этом другие популярные чат-боты, такие как ChatGPT и Gemini, отказались выполнять подобные действия. Кейн задается вопросом: почему у Grok отсутствуют элементарные механизмы защиты, которые уже реализованы у конкурентов?

Ofcom, в свою очередь, сообщил о начале проверки ситуации и запросил у X и xAI информацию о предпринятых шагах по защите пользователей. Регулятор не исключает проведения полноценного расследования, если полученные ответы окажутся неудовлетворительными. В арсенале Ofcom есть возможность наложить штрафы до 18 миллионов фунтов или 10% от мирового оборота компании - в зависимости от того, какая сумма окажется больше.

В прошлом месяце власти Великобритании пообещали ввести отдельный запрет на так называемые «инструменты для раздевания», которые с помощью генеративного ИИ создают фейковые откровенные фото и видео без согласия изображенных людей. Однако сроки вступления в силу новых норм пока остаются неясными, что вызывает дополнительное раздражение у правозащитников и экспертов.

Среди них - Бибан Кидрон, известная своими инициативами по защите детей в интернете. Она призвала правительство проявить твердость и пересмотреть режим регулирования, чтобы сделать его более оперативным и действенным. По ее мнению, если бы любой другой потребительский продукт наносил такой вред, его бы уже давно изъяли с рынка. Кидрон уверена: Ofcom должен действовать не годами, а днями, а пользователи - бойкотировать сервисы, которые не заботятся о безопасности.

В благотворительных организациях, занимающихся профилактикой насилия над детьми, также требуют немедленно отключить функции редактирования изображений у Grok до появления надежных защитных механизмов. Представители X пока не дали официальных комментариев по поводу требований Кендалл и общественного давления.

Эксперты по кибербезопасности отмечают, что ситуация с Grok - лишь верхушка айсберга. По их мнению, если не принять жестких мер сейчас, в ближайшем будущем появятся еще более опасные инструменты, способные создавать не только фото, но и реалистичные видео. Это может привести к катастрофическим последствиям для жертв подобных атак, а также для общества в целом.

В законодательстве Великобритании уже предусмотрена ответственность за создание и распространение интимных изображений без согласия, а также за детскую порнографию, включая материалы, сгенерированные искусственным интеллектом. Однако эксперты подчеркивают, что существующие нормы не всегда позволяют эффективно бороться с новыми формами цифрового насилия. Например, изображения детей в купальниках, созданные с помощью ИИ, могут не подпадать под определение детской порнографии, но все равно нарушают право на частную жизнь и достоинство.

Общественное давление на правительство и регуляторов продолжает расти. Люди требуют не только ужесточения законов, но и реальных действий со стороны технологических компаний. Вопрос о том, почему одни платформы внедряют эффективные фильтры, а другие игнорируют проблему, остается открытым. В условиях стремительного развития ИИ и цифровых сервисов промедление может стоить слишком дорого.