Технический директор Google Джеймс Маника рассказал в интервью, что находящаяся в разработке нейросеть самостоятельно обучилась бенгальскому языку.
«Мы обнаружили, что с очень малым количеством подсказок на бенгальском языке он теперь может переводить все на бенгальский», — рассказал Маника CBS.
Маника отметил, что «самообразование» нейросетей встречается все чаще и непонятно, что становится стимулом для такого, выходящего за рамки текущих задач, поведения. Гендиректор Google Сундар Пичаи отметил, что эксперты пока не смогли объяснить эту странность ИИ.
Илон Маск назвал нейросети угрозой человечеству
Самообучение ИИ новому навыку называется «возникающим свойством». Именно этот процесс подчеркивает то, что программисты не могут знать всех деталей работы нейросети и используется противниками технологии в качестве довода в пользу ее потенциальной опасности.