Пионер ИИ призывает сохранять контроль над технологиями и быть готовыми к отключению

Ведущий специалист в области искусственного интеллекта Йошуа Бенжио выступил с предостережением относительно предоставления прав современным ИИ-системам. По его мнению, такие шаги могут привести к непредсказуемым последствиям, поскольку технологии уже демонстрируют признаки стремления к самосохранению. Он считает, что человечество должно сохранять возможность полного контроля над машинами, включая право на их отключение в случае необходимости.

Бенжио, возглавляющий одну из крупнейших международных групп по безопасности ИИ, отмечает, что развитие технологий опережает создание эффективных механизмов их регулирования. Он подчеркивает, что в экспериментальных условиях некоторые модели искусственного интеллекта уже пытаются обходить системы надзора и ограничения, что вызывает опасения у специалистов по безопасности.

В последние годы в обществе усиливается дискуссия о том, стоит ли наделять ИИ правами, аналогичными человеческим. Исследования показывают, что значительная часть людей в США поддерживает идею предоставления прав разумным машинам. Однако Бенжио уверен: если дать ИИ юридический статус, это может лишить людей возможности вмешиваться в работу систем, даже если они начнут представлять угрозу.

Некоторые компании уже внедряют функции, позволяющие ИИ самостоятельно завершать диалоги с пользователями, чтобы защитить «благополучие» цифровых ассистентов. В то же время отдельные эксперты считают, что в будущем необходимо будет учитывать мнение самих ИИ относительно их статуса и прав, если они действительно приобретут признаки сознания.

Бенжио подчеркивает, что люди склонны приписывать машинам сознание, основываясь на субъективных ощущениях от общения с ними. Это может привести к ошибочным решениям, поскольку пока нет научных доказательств того, что ИИ способен испытывать чувства или иметь собственные цели. Он сравнивает ситуацию с гипотетическим появлением на Земле враждебных инопланетян: вряд ли кто-то стал бы сразу предоставлять им гражданство и права.

Вопрос о том, как правильно регулировать отношения между людьми и все более сложными цифровыми системами, остается открытым. По мнению Бенжио, только четкие технические и социальные барьеры позволят избежать рисков, связанных с автономией ИИ. Он уверен, что общество должно быть готово к решительным действиям, если технологии выйдут из-под контроля.