Эксперт предупредил, что человечество может не успеть подготовиться к рискам ИИ
Дэвид Далримпл из Aria о будущем искусственного интеллекта
Фото: Baltphoto
Мир стоит на пороге перемен. Ведущий специалист по безопасности ИИ делится тревожными прогнозами. Как быстро технологии могут изменить привычный уклад жизни. Готовы ли мы к новым вызовам?
В последние годы искусственный интеллект развивается с такой скоростью, что даже опытные исследователи начинают сомневаться: хватит ли у человечества времени, чтобы осознать и предотвратить возможные угрозы? Дэвид Далримпл, руководитель программы по безопасности ИИ в британском научном агентстве Aria, открыто заявил, что темпы прогресса в этой области могут оставить общество без шанса на подготовку к новым рискам.
По словам Далримпла, современные системы искусственного интеллекта уже способны выполнять широкий спектр задач, которые ранее считались исключительно человеческой прерогативой. Он отмечает: «Мы приближаемся к моменту, когда машины смогут не только повторять, но и превосходить людей во всех сферах, необходимых для поддержания цивилизации и управления обществом».
Особое беспокойство вызывает разрыв между пониманием возможностей ИИ в государственных структурах и в частных компаниях, занимающихся разработкой новых технологий. Далримпл подчеркивает: «События развиваются настолько стремительно, что мы можем не успеть выработать эффективные меры безопасности». Он прогнозирует, что уже в ближайшие пять лет большинство экономически значимых задач будут выполняться машинами быстрее и качественнее, чем людьми.
Aria, финансируемое государством, но действующее независимо, направляет ресурсы на исследования в области защиты критически важных инфраструктур, включая энергетические сети. Далримпл работает над созданием систем, которые позволят контролировать использование ИИ в этих сферах. Он убежден: нельзя полагаться на то, что сложные алгоритмы будут вести себя предсказуемо, ведь наука, способная гарантировать их надежность, вряд ли появится вовремя. Экономические интересы подталкивают компании к внедрению новых решений, не дожидаясь появления необходимых стандартов безопасности.
Если технологический прогресс продолжит опережать развитие систем контроля, последствия могут быть крайне серьезными. Далримпл говорит о возможной дестабилизации экономики и системы безопасности. Он настаивает на необходимости углубленных технических исследований, чтобы понять и научиться управлять поведением продвинутых ИИ. Несмотря на потенциальную пользу, риски, по его мнению, остаются чрезвычайно высокими, а общество пока не готово к столь масштабным переменам.
Недавно созданный Институт безопасности ИИ при правительстве Великобритании сообщил, что производительность передовых моделей удваивается в некоторых областях каждые восемь месяцев. Сегодня ведущие системы способны успешно выполнять задачи уровня стажера в половине случаев, тогда как еще год назад этот показатель не превышал 10%. Кроме того, институт провел тесты на способность ИИ к самовоспроизведению - ключевой аспект, вызывающий опасения у специалистов по безопасности. В лабораторных условиях успешность таких попыток превысила 60%, хотя в реальной жизни вероятность успеха пока невелика.
Далримпл уверен, что к концу 2026 года искусственный интеллект сможет полностью автоматизировать рабочий день исследователя и разработчика. Это приведет к еще более быстрому росту возможностей ИИ, поскольку системы начнут самостоятельно совершенствовать свои математические и программные основы.
Ситуация складывается парадоксальная: с одной стороны, человечество получает в руки мощнейший инструмент, способный решать сложнейшие задачи. С другой - мы рискуем потерять контроль над процессами, которые сами же и запустили. Далримпл не скрывает своей обеспокоенности: «Мы не можем позволить себе роскошь ждать, пока появятся гарантии безопасности. Нужно действовать уже сейчас».
Вопрос о том, удастся ли человечеству удержать контроль над искусственным интеллектом, остается открытым. Ясно одно: время на раздумья стремительно уходит, а ставки становятся все выше. В ближайшие годы мы станем свидетелями того, как технологии меняют не только экономику, но и саму структуру общества. И никто не может с уверенностью сказать, к чему это приведет.
Читайте нас в
Google.News,
Дзене,
ВК,
MAX, 
Телеграме и 
рассылке. Категории: Искусственный интеллект Наука Экономика Бизнес и финансы
.JPG "Эксперт по ИИ пересмотрел сроки появления суперразумных машин и угрозы человечеству")
Эксперт по ИИ пересмотрел сроки появления суперразумных машин и угрозы человечеству
Известный специалист по ИИ изменил свои ожидания. Сроки появления автономного ИИ сдвигаются. Вопросы безопасности и рисков остаются открытыми. Эксперты обсуждают новые горизонты развития технологий.... .JPG "Лучшие digital-решения России и СНГ названы на форуме в Ташкенте")
Лучшие digital-решения России и СНГ названы на форуме в Ташкенте
В Ташкенте прошел форум, где наградили создателей digital-решений. В числе победителей - крупные российские компании. Эксперты обсудили развитие технологий и новые тренды. Мероприятие собрало лидеров отрасли.... 
Россия и Индия запускают новые проекты в авиации и искусственном интеллекте
Россия и Индия обсуждают свежие идеи в сфере высоких технологий. В центре внимания – авиация, космос и ИИ. Ожидаются новые совместные инициативы. Подробности о перспективах партнерства – в нашем материале.... 
Петербургские инженеры создали память для автономного искусственного интеллекта
В лабораториях Петербурга разрабатывают уникальные технологии. Исследования могут изменить подход к ИИ. Эксперты обсуждают перспективы и вызовы новых решений. Впереди — новые горизонты для отечественной микроэлектроники.... 
Исследование выявило неравномерное внедрение искусственного интеллекта в регионах
Технологии будущего активно меняют бизнес-процессы. Новые данные показывают интересную картину развития. Далеко не все регионы развиваются одинаково. Эксперты выявили явных лидеров и отстающих.... 
Nvidia представила ИИ нового поколения для автономных автомобилей и суперчипы Rubin
Nvidia анонсировала инновации для автопилотов и ИИ. Компания готовит к запуску новые чипы. В Лас-Вегасе показали возможности Alpamayo. Ожидаются перемены в индустрии автономного транспорта.... 
Российские танки переходят на новый уровень
В России стартовал этап обновления бронетехники. Эксперты раскрыли детали новых решений. Интеграция с современными системами меняет подход к боевым машинам. Узнайте, как это повлияет на будущее армии.... 
Спутники на сверхнизких орбитах: как VLEO меняют космос и связь
Технологии спутников VLEO открывают новые горизонты. Инженеры ищут решения для преодоления сложностей. В ближайшие годы ожидаются крупные инвестиции. Мир спутников меняется прямо сейчас.... .JPG "Глобальный рынок ИИ может столкнуться с финансовым кризисом из-за переоценки")
Глобальный рынок ИИ может столкнуться с финансовым кризисом из-за переоценки
Экономика ИИ переживает период бурного роста. Инвесторы обеспокоены окупаемостью вложений. Рынок может ждать резкая переоценка. Последствия затронут не только технологический сектор.... .JPG "Рост центров искусственного интеллекта угрожает климату и экологии планеты")
Рост центров искусственного интеллекта угрожает климату и экологии планеты
Эксперты обеспокоены влиянием ИИ на окружающую среду. Энергопотребление дата-центров растет. Вода и электричество расходуются в огромных масштабах. Обсуждаются новые меры регулирования.... Рекомендовано Петербургом 2
Катки Петербурга: куда идти за атмосферой, а куда — за простором
Куда пойти с ребенком на новогодних каникулах
Афиша новогодних праздников в Петербурге: концерты, спектакли, шоу
Где кататься на санках и лепить снеговика в Петербурге
Маршрут по новогодним фестивалям: куда идти за подарками и атмосферой в Петербурге
Керлинг, советские автоматы и карусели: топ новогодних мест в Петербурге
Прогноз погоды
-12°..-9°
