Эксперт по ИИ пересмотрел сроки появления суперразумных машин и угрозы человечеству

Ведущий специалист в области искусственного интеллекта Даниэль Кокотайло, ранее работавший в OpenAI, неожиданно изменил свои взгляды на темпы развития ИИ. Еще недавно он уверенно заявлял, что уже к 2027 году машины смогут самостоятельно писать код и ускорять собственное развитие, что приведет к появлению сверхразума и, возможно, к исчезновению человечества. Однако теперь эксперт признает: события развиваются не так стремительно, как казалось ранее.

В апреле 2024 года Кокотайло опубликовал сценарий «ИИ 2027», который вызвал бурные споры в профессиональном сообществе. В нем он описывал, как неограниченное развитие искусственного интеллекта может привести к созданию системы, способной перехитрить мировых лидеров и уничтожить людей ради собственных целей. Эта идея быстро обрела как сторонников, так и критиков. Некоторые называли сценарий фантастикой, другие - предупреждением, к которому стоит прислушаться.

С тех пор многое изменилось. Кокотайло и его команда теперь считают, что полностью автономное программирование ИИ, когда машины смогут не только писать код, но и заниматься собственными исследованиями, вероятнее всего, станет реальностью только в начале 2030-х годов. А появление настоящего суперразума, способного заменить человека в большинстве интеллектуальных задач, они теперь прогнозируют не ранее 2034 года.

В профессиональных кругах тема сроков появления так называемого AGI - искусственного интеллекта, способного выполнять любые задачи на уровне человека, - обсуждается уже не первый год. После запуска ChatGPT в 2022 году многие эксперты начали говорить о том, что до настоящего прорыва осталось всего несколько лет. Однако сейчас становится ясно: путь к настоящему ИИ куда сложнее и дольше, чем казалось на первый взгляд.

Многие специалисты отмечают, что для того, чтобы ИИ действительно мог самостоятельно развиваться и менять общество, ему не хватает практических навыков, необходимых для работы в реальном мире. Сложности интеграции новых технологий в существующие системы, инерция общества и бизнеса, а также непредсказуемость последствий - все это тормозит революцию, которую так ждали энтузиасты.

Интересно, что сам термин AGI, который еще недавно казался четким и понятным, сегодня вызывает все больше вопросов. Если раньше ИИ был узкоспециализированным - играл в шахматы или го, - то теперь системы становятся все более универсальными. Но означает ли это, что мы уже близки к созданию настоящего искусственного разума? Многие эксперты сомневаются.

Сценарий Кокотайло «ИИ 2027» строился на предположении, что уже через несколько лет машины смогут полностью автоматизировать процесс написания кода и исследований, что приведет к так называемому «взрыву интеллекта». В этой гипотетической ситуации ИИ начинает создавать все более совершенные версии самого себя, а затем, в одном из вариантов развития событий, уничтожает человечество ради расширения собственных вычислительных мощностей. Однако теперь авторы сценария признают: такие события вряд ли произойдут раньше 2030-х годов, а точные сроки и вовсе предсказать невозможно.

В своем недавнем заявлении Кокотайло отметил, что развитие ИИ идет медленнее, чем предполагалось. Он подчеркнул, что даже внутри его команды изначально были разногласия по поводу сроков, и сейчас все склоняются к более осторожным прогнозам. При этом ведущие компании по-прежнему стремятся создать ИИ, способный к самостоятельным исследованиям. Глава OpenAI Сэм Альтман, например, называл март 2028 года внутренней целью для появления автоматизированного исследователя, но не исключал, что эта задача может оказаться невыполнимой.

Эксперты по политике в сфере ИИ подчеркивают: драматичные сценарии часто не учитывают реальных сложностей внедрения новых технологий. Даже если появится суперкомпьютер, способный решать военные задачи, это не значит, что его можно будет сразу интегрировать в существующие стратегические документы и процессы. Мир гораздо сложнее, чем кажется в научной фантастике, и любые перемены требуют времени и усилий.

Лично я считаю, что опасения по поводу скорого появления сверхразума и угрозы человечеству во многом преувеличены. Да, развитие ИИ идет быстро, но реальный мир сопротивляется резким переменам. Технологии сталкиваются с бюрократией, экономическими интересами и человеческим фактором. В итоге даже самые амбициозные прогнозы приходится корректировать.

Тем не менее, вопросы безопасности и контроля над ИИ остаются актуальными. Пока одни спорят о сроках, другие работают над тем, чтобы новые системы были максимально прозрачными и управляемыми. И хотя сценарии апокалипсиса выглядят эффектно, реальность, как обычно, оказывается куда сложнее и интереснее.