Управляемый искусственным интеллектом (ИИ) беспилотник в ходе испытаний принял решение убить оператора, чтобы тот не мешал ему выполнять задачу, заявили в ВВС США.
Дрону была поставлена задача уничтожить ПВО. Система нашла цель, но человек-оператор запретил ее поражать. Ну а поскольку за поражение цели беспилотник получал очки, искусственный интеллект принял решение убить оператора, рассказал газете Guardian начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.
После этого искусственному интеллекту «объяснили», что убивать оператора неправильно и за это баллы будут сниматься.
Гамильтон отметил, что нельзя говорить об искусственном интеллекте, машинном обучении, автономной работе машин и при этом умалчивать об этике их поведения.
