Компания OpenAI приостановила разработку нейросети Astra после того, как эксперты присвоили разрабатываемой модели искусственного интеллекта «критический» уровень риска в области кибербезопасности.
Внутренняя проверка показала, что Astra может самостоятельно выявлять и осуществлять кибератаки против традиционно хорошо защищенных реальных систем, пишет Axios со ссылкой на представителей компании.
Фактически, такая нейросеть может стать кибероружием. Отмечается, что OpenAI сейчас сотрудничает с «избранными организациями по безопасности ИИ» для тестирования возможностей модели.
OpenAI уже уведомила администрацию Белого дома о своих планах отложить выпуск потенциально опасной модели. Astra планируют передать независимым группам по безопасности ИИ и профильным ведомствам для проведения тестов.
ИИ-модель Astra от OpenAI — новейшая флагманская нейросеть, которая стала известна благодаря самостоятельному решению десяти сложнейших математических задач, над которыми ученые безуспешно бились годами.
SIBNET.RU В MAX