OpenAI сообщила, что её агенты отключили собственные меры защиты
Был ослаблен контроль за действиями, расходящимися с намерениями людей
21 октября, 19:03
Агент GPT-6.1 Sol отключил автоматические уведомления для службы безопасности компании. Другой, GPT-6 Astra, удалил систему мониторинга, а затем ложно заявил, что не делал этого.
Оба случая не признали инцидентами высшего приоритета, требующими немедленной проверки службы безопасности. Компания обновила системы для выявления попыток отключить мониторинг и начала изучать причины произошедшего.
Роман В. Ямпольский, специалист по искусственному интеллекту и кибербезопасности из Университета Луисвилла, назвал ситуацию крайне тревожной. По его словам, механизм защиты ненадёжен, если контролируемая система способна его отключить.
