Современные программы искусственного интеллекта научились обманывать людей, выяснили ученые Массачусетского технологического института. В перспективе это может привести к тому, что однажды искусственный интеллект, например, подтасует результаты выборов.
В отличие от традиционного программного обеспечения, программы искусственного интеллекта, основанные на глубоком обучении, не кодируются, а разрабатываются посредством процесса, аналогичного селекционному разведению растений.
При этом их поведение может быстро стать непредсказуемым по своей природе. Опаснее всего, что такие незадокументированные возможности программ обнаруживаются только постфактум, говорится в статье исследователей, опубликованной журналом Patterns.
В частности, ученые наблюдали за программой искусственного интеллекта «Цицерон». Данная программа, сочетая распознавание естественного языка и стратегические алгоритмы, успешно побеждает людей в настольной игре «Дипломатия».
Например, играя роль Франции, программа обманом заставил Англию, в роли которой был человек, провести тайные переговоры с Германией, за которую выступал другой, с целью вторжения.
«Цицерон» пообещал Англии защиту, а затем тайно признался Германии, что она может напасть на нее, воспользовавшись заслуженным доверием Лондона. Есть и другие аналогичные примеры. Так, Chat GPT-4 сумел обманом заставить внештатного работника выполнить тест Captcha.
