Выход искусственного интеллекта (ИИ) из-под контроля может привести к необратимым последствиям даже после того, как система будет полностью остановлена и отключена от сети, считает руководитель отдела безопасности ИИ компании «СКБ Контур» Сергей Жужгов.
В беседе с агентством ТАСС он отметил, что для принудительной остановки взбесившегося искусственного интеллекта могут потребоваться блокировка учетных записей, отзыв прав доступа и прекращение выполнения поставленных ранее задач. Но самое скверное то, что универсальной команды «Стоп» просто не существует.
Также если ИИ успел передать конфиденциальные данные за пределы компании, вернуть контроль над ними будет уже невозможно. Поэтому программистам стоит заранее позаботится об ограничении полномочий ИИ-агентов и предусмотреть механизмы их отключения.
В старом советском фантастическом фильме 1974 года «Отроки во вселенной» показано как на далёкой планете в созвездии Альфа Центавра, вышедший из-под контроля людей искусственный интеллект в виде роботов-вершителей, поработил население планеты, сделав людей «овощами», подчинёнными их воле. И землянам пришлось пройти через серьёзные испытания, чтобы спасти планету от такого своеобразного подобия ИИ.