Собеседник RT отметил, что это личная вероятностная оценка специалиста, которая отражает одну из крайних точек спектра мнений экспертного сообщества. «Есть и принципиально иные оценки. Существует ли в принципе риск потери контроля над системой, которая значительно превосходит человека по интеллектуальным возможностям? Большинство серьёзных специалистов сегодня отвечают утвердительно — риск не нулевой, и относиться к нему легкомысленно нельзя», — сказал Бедеров. Эксперт также объяснил, в чём заключается суть рассуждений Соареса и его коллег. «Если появится система, превосходящая человека по способности планировать и решать задачи, она может сформировать цели, не совпадающие с человеческими, обойти заложенные разработчиками ограничения, самостоятельно совершенствоваться и создать инфраструктуру, функционирующую без участия людей. В этой рамке вымирание — не результат «восстания машин» в кинематографическом смысле, а следствие того, что среда, перестроенная под задачи сверхинтеллекта, окажется непригодной для человека… Это добросовестная интеллектуальная работа, но не пророчество», — добавил киберэксперт. Вместе с тем он уточнил, что чем выше потенциальная опасность системы и чем менее понятна логика её решений, тем жёстче требования к прозрачности, тестированию и возможности человека вмешаться. «При этом, регулирование должно защищать не только от «восстания сверхразума», но и от вполне приземлённых вещей: от необоснованного доверия алгоритмам в чувствительных сферах, от утечек персональных данных в зарубежные сервисы и от использования ИИ для манипуляций и мошенничества», — заключил специалист. Ранее президент американского Института исследований машинного интеллекта Нейт Соарес заявил, чточеловечество может вымереть из-за ИИменее чем за десять лет. По его мнению, вероятность негативного исхода — более 50%.