Группа исследователей из Центра искусственного интеллекта Сколтеха и Института проблем передачи информации РАН разработала технологию, позволяющую нейросетям становиться более «самокритичными» и сомневаться в собственных оценках и прогнозах.
Новый метод использует набор обучающих данных с оценкой экспертов. Это помогает нейросети учиться точнее оценивать свои предсказания. Результаты изысканий представлены на Международной конференции по использованию компьютерного зрения.
В отличие от классических подходов, где в обучающих выборках используются только бинарные метки (0 или 1), в новой методике дополнительно вводятся «мягкие» метки — значения в диапазоне от 0 до 1, отражающие степень уверенности.
Такое обучение позволяет нейросети выявлять ситуации, требующие дополнительной проверки человеком. Испытания на данных медицинской диагностики показали значительное повышение достоверности.
Разработчики отметили, что метод помогает нейросети понимать, где нужна дополнительная осторожность. Это снижает риск ошибок при анализе недостоверных или неоднозначных данных в сферах с высоким уровнем риска.
