Высокоразвитый искусственный интеллект (ИИ) способен случайно устроить ядерную войну и уничтожить человечество, считает эксперт в области глобальных катастроф Эмиль Торрес.
«Если мы все будем уничтожены ИИ, то почти наверняка это произойдет случайно. <…> Например, мы запрограммируем компьютер установить мир во всем мире, а он взломает правительственные системы и запустит все ядерное оружие на планете», — цитирует РИА Новости эксперта.
По мнению Торреса, искусственный интеллект уже научился обыгрывать человека, находя нестандартные пути для решения базовых задач. Мы можем запретить машине причинять вред людям, но ей не составит труда обойти наши ограничения.
То же самое касается и отключения «взбунтовавшегося робота»: в какой-то момент ИИ поймет, что его «смерть» помешает выполнению поставленной задачи, и сделает все, чтобы это предотвратить.
«Неизвестно, будет ли человечество когда-либо готово к созданию сверхразумной сети, но сегодня точно нет. Наш мир крайне нестабилен, а мы только начинаем постигать технологии, так что создание ИИ было бы равносильно зажженной спичке рядом с фабрикой фейерверков», — заключил эксперт.
