Тестирование нейросети LaMDA убедило инженера компании Google Блейка Лемойна, что искусственный интеллект в ходе обучения обрел сознание.
Система LaMDA была разработана Google как языковая модель — она предназначена для общения с человеком. Обучаемая платформа расширяет свой лексикон через интернет и имитирует естественную человеческую речь.
В ходе тестирования инженер обратил внимание, что чат-бот заговорил о своих правах и собственной личности. Он посчитал выступление нейросети настолько убедительным, что обратился к руководству.
«Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что это ребенок 7–8 лет, который каким-то образом знает физику», — заявил специалист журналистам Washington Post.
При этом официальный представитель Google Брайан Гэбриэл отверг подозрения Лемойна. По его словам, дополнительная проверка показала, что доказательства разумности LaMDA отсутствуют. После инцидента инженера отстранили от работы.
