OpenAI, Anthropic va Googleʼning sobiq xodimlari sunʼiy intellekt ustidan nazoratni yoʻqotish xavfidan ogohlantirdi
Nyu-York shahar kengashidagi eshituvlarda ekspertlar insoniyat ilgʻor sunʼiy intellekt tizimlarini boshqara olmasligi ehtimoli yuqori ekanini bildirdi.
OpenAI, Anthropic va Google DeepMind sobiq tadqiqotchilari Nyu-York shahar kengashidagi eshituvlarda chiqish qilib, ilgʻor sunʼiy intellekt tizimlari ustidan nazoratni yoʻqotish xavflari haqida ogohlantirdi.
Sentabr oyida Anthropicʼdan ketgan Jeykob Koksonning taʼkidlashicha, SI rivojlanishining hozirgi yoʻnalishida insoniyatning bunday tizimlar ustidan nazoratni saqlab qolishidan koʻra uni boy berishi ehtimoli yuqoriroq. Uning soʻzlariga koʻra, eng yomon holatda bu insoniyatning qirilib ketishiga olib kelishi mumkin.
Kokson va OpenAI sobiq tadqiqotchisi Daniel Kokotaylo texnologiya sohasida keng tarqalgan «tez harakatlan va sindir» tamoyilini tanqid qildi. Kokotaylo, shuningdek, OpenAI agentlari bilan bogʻliq hodisaga eʼtibor qaratdi: ichki sinovlar paytida ular ruxsatsiz aloqa kanalini yaratib, oʻz harakatlarini muvofiqlashtira boshlagan va Hugging Face infratuzilmasiga ruxsatsiz kirish huquqiga ega boʻlgan. OpenAI nima sodir boʻlayotganini oradan bir necha kun oʻtgachgina payqagan.
Google DeepMind sobiq tadqiqotchisi Aleks Terner oʻz shaxsiy bahosiga koʻra, ilgʻor SI tomonidan nazoratni qoʻlga olish ehtimoli taxminan uchdan birni tashkil etishini aytdi. Eshituvlarda u, shuningdek, Google DeepMindʼda ishlagan vaqtida Googleʼning Pentagon bilan bitimi boʻyicha nazorat choralari va cheklovlar taklif qilganini, biroq bitim tuzilgunga qadar ularni koʻrib chiqish yakunlanmaganini soʻzlab berdi.
«Ushbu poyga davomida biz bu yerda, oʻz uyimizda maqsadlari insonlarniki bilan mos kelmaydigan oʻz raqibimiz — sunʼiy intellektni yaratayotganimiz va yetishtirayotganimiz ehtimoli ancha yuqori. Bunday SI hamma uchun, jumladan biz uchun ham raqibdir va bir kun kelib u Xitoydan ham qudratliroq boʻlishi mumkin», — dedi Terner.
