Искусственный интеллект (ИИ), управляющий оружием, может сотворить ужасные вещи, предупредил профессор Калифорнийского технологического института (Caltech) Аарон Эймс.
«Какова вероятность того, что ИИ и машинное обучение сотворят плохие вещи? Думаю, вероятность этого довольно высока, если мы не будем осторожны. Сейчас самое время быть осторожными», — сказал Эймс в интервью американскому изданию Wired.
Ученый отметил, что если доверить искусственному интеллекту принимать решения и при этом не позаботиться об ограничениях для него, «он будет принимать плохие решения». Нейросети или другие большие языковые модели могут выдавать очень хорошие ответы, но они ошибаются.
По словам профессора, искусственный интеллект можно
использовать его как мощный инструмент. Но доверять ему нельзя. «Думаю, если мы
дадим ИИ управлять нашим оружием или совершим еще какую подобную глупость, то
произойдут ужасные вещи», — предостерег он.
В тоже время ученый посоветовал не преувеличивать «разумность» нейросетей. «ИИ не имеет разума. Говорят "ИИ", искусственный интеллект, но у него нет интеллекта как такового. Он не понимает, что говорит или делает. Это просто сопоставление паттернов в доселе невиданных масштабах», — пояснил эксперт.
SIBNET.RU В MAX