Эксперт назвал катастрофические последствия выхода ИИ из-под контроля

Эксперт назвал катастрофические последствия выхода ИИ из-под контроля

20 ноября 2026
04:30

Источник: Кадр из фильма «Отроки во вселенной» (YouTube)

Выход искусственного интеллекта (ИИ) из-под контроля может привести к необратимым последствиям даже после того, как система будет полностью остановлена и отключена от сети, считает руководитель отдела безопасности ИИ компании «СКБ Контур» Сергей Жужгов.

В беседе с агентством ТАСС он отметил, что для принудительной остановки взбесившегося искусственного интеллекта могут потребоваться блокировка учетных записей, отзыв прав доступа и прекращение выполнения поставленных ранее  задач. Но самое скверное то, что универсальной команды «Стоп» просто не существует.

Также если ИИ успел передать конфиденциальные данные за пределы компании, вернуть контроль над ними будет уже невозможно. Поэтому программистам стоит заранее позаботится об ограничении полномочий ИИ-агентов и предусмотреть механизмы их отключения.

В старом советском фантастическом фильме 1974 года «Отроки во вселенной» показано как на далёкой планете в созвездии Альфа Центавра, вышедший из-под контроля людей искусственный интеллект в виде роботов-вершителей, поработил население планеты, сделав людей «овощами», подчинёнными их воле. И землянам пришлось пройти через серьёзные испытания, чтобы спасти планету от такого своеобразного подобия ИИ.


Читайте также
25 апреля 2025
00:25
«Ковчег» на пути в вечность показали в «Современнике»
22 апреля 2025
09:30
В Москве пройдет региональный этап Международной премии #Мывместе
08 апреля 2025
14:20
Как летают самолеты и какое отношение к этому имеют птицы
08 апреля 2025
12:10
Билл Скарсгард и Энтони Хопкинс сойдутся в смертельной схватке в триллере «Западня»
30 марта 2025
19:55
Лавров озабочен поведением генсека ООН Антониу Гутерриша
05 марта 2025
11:15
«Перекресток воронов»: новую книгу о Ведьмаке можно будет купить в России
19 февраля 2025
15:00
С 1 марта в Подмосковье введут штрафы для владельцев незарегистрированных собак
17 декабря 2024
10:20
Прыжки на скакалке и перетягивание каната: что ждет любителей спорта на фестивале «Путешествие в Рождество»
02 октября 2024
14:20
Ежегодный благотворительный баскетбольный матч фонда Гоши Куценко прошел в Лужниках
02 сентября 2024
19:00
Значение робототехники на поле боя оценили в России
15 августа 2024
14:25
В WhatsApp* расширили функционал
02 июля 2024
12:25
Число онкологов в России увеличивается
05 июня 2024
12:55
Мосгордума назначила дату выборов депутатов нового созыва
30 мая 2024
09:20
Умерла актриса Анастасия Заворотнюк
06 мая 2024
11:40
Сергунина: Москвичи прислали более 4,5 тысячи работ на конкурс «Наследие моего района»