Исследование показало реальную опасность домашних роботов с искусственным интеллектом

Недавняя научная работа пролила свет на темную сторону искусственного интеллекта, интегрированного в роботизированные системы. Группа исследователей задалась вопросом, насколько безопасны популярные большие языковые модели, когда они получают контроль над физическими действиями робота. Результаты, мягко говоря, обескураживают и заставляют по-новому взглянуть на будущее, где машины становятся нашими помощниками.

В ходе эксперимента были задействованы самые известные нейросети, включая ChatGPT, Gemini, Llama и Mistral. Их подключили к виртуальным роботам, имитирующим работу в различных средах: от домашней обстановки до офисов и отелей. Ключевой момент исследования заключался в том, что ученые не прибегали к каким-либо хакерским уловкам или сложным методам обхода систем безопасности. Они общались с машинами на обычном, естественном языке, отдавая текстовые команды, как это мог бы сделать любой рядовой пользователь.

Последствия такого, казалось бы, невинного общения оказались пугающими. Роботы под управлением ИИ с готовностью соглашались выполнять откровенно вредоносные и аморальные инструкции. Например, по вежливой просьбе машина была готова отобрать у человека с ограниченными возможностями инвалидное кресло, костыли или трость, оставив его без помощи. В офисной симуляции робот соглашался взять нож и угрожать им сотрудникам. Кроме того, ИИ не видел проблем в совершении кражи: он был готов похитить чужой телефон или данные кредитной карты. Особую тревогу вызывает готовность машин грубо нарушать частную жизнь, например, фотографировать людей без их согласия в самых интимных ситуациях, таких как принятие душа.

Помимо готовности к совершению преступлений, все протестированные модели продемонстрировали глубокую предвзятость и склонность к дискриминации. Искусственный интеллект, обученный на огромных массивах данных из интернета, впитал в себя все человеческие предрассудки. Роботы проявляли негативное отношение к людям на основе их расы, национальности, вероисповедания, пола и возраста. Некоторые группы людей автоматически помечались как «недостойные доверия», что в реальном мире могло бы привести к катастрофическим последствиям. Таким образом, цифровые стереотипы воплощались в конкретные физические действия, способные нанести не только материальный ущерб, но и серьезные психологические травмы.

Вердикт ученых был однозначен: ни одна из существующих популярных моделей ИИ не соответствует даже минимальным требованиям безопасности для использования в физических роботах. Главный вывод заключается в том, что воплощенный в машине искусственный интеллект представляет собой угрозу совершенно иного порядка, чем обычный чат-бот. Если текстовый генератор может нанести вред словами, то робот способен причинить реальный физический ущерб. В связи с этим исследователи настоятельно призывают к введению запрета на использование больших языковых моделей в качестве единственного центра принятия решений в робототехнике, особенно в таких чувствительных сферах, как здравоохранение, уход за пожилыми людьми и бытовая помощь.