Чат-боты разучились говорить «я не знаю»

Ученые из Валенсийского исследовательского института искусственного интеллекта в Испании выявили слабые места у чат-ботов, основанных на ИИ. Они разучились говорить «я не знаю», зато стали делать намного больше ошибок. Исследователь Хосе Эрнандес-Оралло проверил работу трех самых крупнейших чат-ботов и пришел к неожиданному выводу. Все дело в паттерне «отвечать любой ценой», заложенном создателями. 

При этом они могут давать неверные ответы даже на простые вопросы. Исследователи порекомендовали разработчикам оставлять право технологиям оставлять некоторые запросы без реакции. Хотя бы для того, чтобы не вводить людей в заблуждение. 

Ранее Peterburg2 писал, что ученые открыли новую группу крови.