В США при испытании дрона ИИ решил убить оператора, мешавшего ему управлять машиной

В США во время имитационных испытаний беспилотник ВВС, которым управлял искусственный интеллект (ИИ), когда его достал оператор, мешавший по его мнению выполнять поставленную задачу, принял решение о его физическом устранении, пишет газета The Guardian.

«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», – сообщил начальник Отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.

При этом он отметил, что по его мнению «нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ».

Это далеко не первые испытания на которых Пентагон внедряет ИИ в боевую технику. Не так давно прошли испытания с использованием ИИ при управлении многоцелевым лёгким истребителем F-16.

В Соединённых Штатах многие политики и руководители крупнейших компаний призывают усилить регулирование в сфере искусственного интеллекта. Буквально в апреле миллиардер Илон Маск заявил о необходимости осуществления государственного контроля в области ИИ, так как данная технология может представлять угрозу для людей. 

В России тоже не первый год идёт внедрение ИИ в разные сферы человеческой деятельности. Так в столичном здравоохранении уже несколько лет, как ИИ помогает врачам ставить диагноз. Обработав результаты обследования пациента и его анализы ИИ даёт медикам пять вариантов наиболее характерных в таких случаев диагнозов из своей базы, а тем остаётся только выбрать на их взгляд наиболее верный. Что касается применения ИИ в военной области, то в отличии от США российские военные эти данные не предают гласности. Пока не придают.