Миллиардер Илон Маск с более чем 1 тысячей экспертов потребовал ввести мораторий на обучение мощных нейросетей, так как это угрожает человечеству, говорится в открытом письме на сайте некоммерческой организации Future of Life Institute.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в письме.
Участники полагают, что лаборатории ИИ и независимые эксперты должны использовать эту «передышку» для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.
Эксперты предлагают новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.
Помимо Маска письмо подписали один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио, а также еще более 1,1 тысячи крупнейших специалистов в области информационных технологий и машинного обучения.