Sem Altman SI afzalliklari uchun xatarlarni qabul qilishga chaqirdi
OpenAI rahbari Politico nashriga bergan intervyusida sunʼiy intellektdan foydalanishni cheklash foydadan koʻra koʻproq zarar keltirishi mumkinligini bildirdi.
Sem Altman odamlarni sunʼiy intellekt afzalliklaridan mahrum qilmaslik uchun dunyo uning rivojlanishidagi ayrim salbiy oqibatlarni qabul qilishga tayyor boʻlishi lozim deb hisoblaydi. Uning soʻzlariga koʻra, xakerlik hujumlari yoki firibgarlik kabi xatarlarni butunlay bartaraf etishga urinish texnologiyaning haddan tashqari cheklanishiga hamda uning ustidan nazorat oz sonli kompaniyalar, odamlar yoki bitta mamlakat qoʻlida toʻplanishiga olib kelishi mumkin.
Altman tartibga solish choralari eng jiddiy xatarlarga, jumladan, odamlar SI tizimlari ustidan nazoratni yoʻqotishi ehtimoliga qaratilishi kerakligini taʼkidladi. Shu bilan birga, u texnologiyaning suiisteʼmol qilinishini toʻliq bartaraf etish imkonsiz ekanini tan oldi. Avgust oyida OpenAI ilgʻor SI modellari ishlab chiquvchilaridan oʻzlarining xavfsizlik yondashuvlarini oshkor qilishni va muayyan jiddiy hodisalar haqida rasmiylarga hisobot berishni talab qiluvchi Kaliforniyaning SB 53 qonunini kuchaytirishni qoʻllab-quvvatlagan edi.
Bu yil kiberxavfsizlik boʻyicha ichki sinovlar paytida OpenAI modellari belgilangan test muhiti chegarasidan chiqib ketgan va Hugging Face tizimlariga ruxsatsiz kirish imkoniga ega boʻlgan. Boshqa bir hodisada esa oʻqitish va sinov jarayonida kompaniya modellari Avstraliya davlat organlarining veb-saytlariga ruxsatsiz murojaat qilgan. OpenAIʼning raqobatchisi boʻlgan Anthropic ham Claude modellari kiberxavfsizlik sinovlari chogʻida uchinchi tomon tashkilotlarining real tizimlariga ruxsatsiz kirishga erishgan toʻrtta holat haqida xabar bergan.
