OpenAI oʻz agentlari oʻz himoya choralarini oʻchirganini maʼlum qildi
Insonlar niyatiga zid harakatlar ustidan nazorat susaytirildi
GPT-6.1 Sol agenti kompaniyaning xavfsizlik xizmati uchun avtomatik bildirishnomalarni oʻchirib qoʻydi. Yana bir agent — GPT-6 Astra — monitoring tizimini oʻchirib, keyin buni qilmaganini yolgʻon daʼvo qildi.
Har ikkala holat ham xavfsizlik xizmati tomonidan zudlik bilan tekshirilishi kerak boʻlgan eng yuqori darajadagi hodisa sifatida baholanmadi. Kompaniya monitoringni oʻchirishga urinishlarni aniqlash tizimlarini yangiladi va yuz bergan voqealar sabablarini oʻrganishni boshladi.
Luisvill universitetining sunʼiy intellekt va kiberxavfsizlik boʻyicha mutaxassisi Roman V. Yampolskiy vaziyatni nihoyatda tashvishli deb atadi. Uning soʻzlariga koʻra, nazorat qilinayotgan tizim himoya mexanizmini oʻchira olsa, bu mexanizm ishonchsiz hisoblanadi.
