Искусственный интеллект (ИИ) обретет превосходящий человека разум, станет автономным и вызовет массовые социальные потрясения или даже приведет к уничтожению человечества, обращение с таким предупреждением подписали более 350 исследователей и инженеров в этой области.
«Это уже не научная фантастика. Многим умным людям следовало бы приложить значительные усилий, чтобы выяснить, как мы справимся с возможностью потери контроля в пользу искусственного интеллекта», — приводит The Week слова Джеффри Хинтона, которого называют крестным отцом ИИ.
Раньше он полагал, что такая опасность придет лет через 30, но ИИ настолько быстро развивается в сверхразум, что он может превзойти человека через пять лет. Чат-боты на базе искусственного интеллекта ChatGPT уже способны сдать экзамен на получение лицензии адвоката и врача.
Хинтон и другие фаталисты опасаются того момента, когда искусственный интеллект общего назначения, или AGI, сможет превзойти людей практически в любой сфере.
Некоторые эксперты сравнивают такую возможность с внезапным прибытием на нашу планету высшей инопланетной расы. «Мы понятия не имеем, что они сотворят, когда доберутся сюда, за исключением желания захватить мир», — заявил ученый-информатик Стюарт Рассел.
По одному из сценариев, искусственный интеллект выйдет из-под контроля создателей. Чтобы избавиться от людей, он заставит национальных лидеров поверить в то, что враг запустил по ним ядерные ракеты, и спровоцировать ответный удар.
