Полиция Петербурга предупредила о масштабной утечке данных из популярного чат-бота Grok

Правоохранительные органы Петербурга и Ленобласти обратились к гражданам с серьезным предостережением, касающимся безопасности при работе с системами искусственного интеллекта. По информации пресс-службы ГУ МВД России по Санкт-Петербургу и Ленинградской области, поводом послужил глобальный инцидент с одним из известных чат-ботов Grok, в результате которого в свободном доступе оказались сотни тысяч частных диалогов.

Выяснилось, что более 370 тысяч бесед с нейросетью стали общедоступными из-за критической уязвимости в функционале. Опция, которая предназначалась для простого обмена разговором с другими людьми, на деле генерировала уникальную публичную веб-ссылку. Ключевая проблема заключалась в том, что разработчики не предусмотрели защиту от индексации, и поисковые системы, такие как Google, начали массово добавлять эти ссылки в свою выдачу. Таким образом, приватные беседы стали видимыми для всего мира без какого-либо уведомления их авторов.

В результате этого серьезного просчета в публичное поле попала самая разная чувствительная информация. Среди опубликованных сведений оказались не только имена пользователей, но и пароли от различных сервисов, детали запросов медицинского характера и даже содержание психологических консультаций. Кроме того, в сети очутились и корпоративные секреты: бизнес-стратегии, финансовые таблицы и внутренние документы, которые люди загружали для анализа, полностью доверяя системе.

Специалисты отмечают, что подобная ситуация, когда удобство использования ставится выше приватности, к сожалению, не является уникальной. Похожие инциденты в той или иной степени фиксировались и у других крупных разработчиков ИИ. В связи с этим полиция настоятельно рекомендует гражданам никогда не вводить в диалоговые окна чат-ботов какую-либо персональную или служебную информацию. Это касается логинов, паролей, паспортных и финансовых данных, а также любой коммерческой тайны, разглашение которой может повлечь негативные последствия.