Самые умные машины к концу XXI века по интеллекту догонят обезьян и тогда они могут стать опасны для людей, поскольку начнут осознавать себя, считает физик-теоретик, популяризатор науки Митио Каку. Предостережения об угрозе искусственного интеллекта (ИИ) постоянно звучат из уст ученых и инженеров.
«Со временем машины догонят по интеллекту мышей, потом крыс, кроликов, кошек и собак. Возможно, к концу XXI века они будут так же умны, как обезьяны. В этот момент они могут стать опасными. Обезьяны осознают себя, им понятно, что они обезьяны», — сказал Каку в интервью ТАСС, добавив, что сейчас самые совершеннее роботы едва ли «сопоставимы с тараканами».
По его словам, к настоящим человеческим способностям искусственный интеллект подберется еще не скоро. «Современный ИИ способен освоить отдельные навыки: играть в шашки и шахматы, причем лучше, чем человек. Но если попытаться поговорить с лучшей шахматной машиной, ничего не получится, потому что она только умеет играть в шахматы. С ней не обсудишь погоду, ее переживания — у нее нет самосознания», — отметил физик.
«Думаю, к концу XXI века появятся машины, осознающие себя. Сейчас роботы не знают, что они роботы», — уточнил Каку. И вот тогда могут появиться проблемы.
Реальна ли угроза?
Об огромной угрозе искусственного интеллекта говорил всемирно известный ученый Стивен Хокинг. По его словам, компьютерный разум рано или поздно научится совершенствоваться самостоятельно и вступит с людьми в конфликт. «Создание ИИ может стать последним технологическим достижением человечества», — предостерегал он.
Эту позицию поддержал основатель компании Microsoft Билл Гейтс. «Я из тех, кто считает, что суперинтеллект может угрожать человечеству. Сначала машины будут выполнять за нас работу и не будут слишком умными. Однако через несколько десятилетий искусственный разум может стать для нас проблемой», — заявил он.
Солидарен с этим и основатель компаний SpaceX и Tesla Илон Маск, назвавший искусственный интеллект «основной угрозой, с которой человечество сталкивается как цивилизация». «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — отметил он.
А вот глава Facebook Марк Цукерберг отказывается верить в эту угрозу. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света очень безответственно», — считает он.
«Илон Маск, который боится разумных роботов, окажется прав в
отдаленной перспективе. Но точнее все-таки Марк Цукерберг, говорящий о том, что
роботы будут создавать новые рабочие места на протяжении десятилетий», — выразил
уверенность Каку.
Главное — не забыть об аварийной кнопке отключения ИИ. «Мы не должны бояться технологий. Когда искусственный интеллект разовьется до такого уровня, что будет представлять опасность, нам нужно будет встроить в него кнопку аварийного выключения», — сказал физик и тут же задался вопросом: «Но через двести лет роботы станут такими умными, что смогут обойти эту систему защиты. Что случится после этого?»