Xubingerning bahosiga köra, sunʼiy intellekt rivojlanişi oqibatida insoniyat halokatga uçraşi ehtimoli 10 foizdan yuqori.
U bu fikrni Anthropicʼdan tadqiqotçi Jeykob Koksonning şov-şuvli ketişidan köp ötmay bildirgan. Kokson avval OpenAIʼda ham işlagan.
Kokson Anthropic va OpenAIʼni öta kuçli, özini özi takomillaştira oladigan sunʼiy intellekt yaratişga töxtovsiz intilayotganlikda tanqid qilgan. Uning fikriça, kompaniyalar bu texnologik poygada insoniyat kelajagini juda katta xavf ostiga qöymoqda.
Tadqiqotçi kompaniya rahbarlari ommaviy axborot vositalarida sunʼiy intellektning kelajagi haqida ijobiy va ehtiyotkor bayonotlar bersa-da, içki muhitda texnologiya ön yillik oxiriga qadar insoniyat uçun halokatli oqibatlarga olib kelişi mumkinligidan jiddiy xavotir mavjudligini taʼkidlagan.
Koksonning fikriça, kelajakda ança kuçli sunʼiy intellekt modellari faqat matn yoki tasvir yaratiş bilan çeklanib qolmaydi. Ular kompyuter tizimlarini buziş, himoya mexanizmlarini çetlab ötiş hamda turli resurslarga mustaqil ravişda kiriş imkoniga ega bölişi mumkin.
Evan Xubinger ham bu xavotirlarning asosi borligini tan olgan.
Uning sözlariga köra, nazariy jihatdan sunʼiy intellektning rivojlanişi barça odamlarning halok bölişiga olib keladigan ssenariyni ham istisno qilib bölmaydi. Xubinger bunday natija ehtimolini şaxsan 10 foizdan yuqori deb baholagan.
Şu bilan birga, u Anthropic mazkur xavflarni kamaytiriş va sunʼiy intellektni inson maqsadlari hamda qadriyatlariga moslaştiriş uçun imkoni boriça iş olib borayotganini aytgan.
Biroq asosiy muammo şundaki, tadqiqotçilar hozirça superintellekt darajasiga yetgan sunʼiy intellektni işonçli tarzda nazorat qiliş va uning maqsadlarini inson manfaatlari bilan muvofiqlaştirişning kafolatlangan usulini bilmaydi.
Bu masala sunʼiy intellekt sohasida “alignment problem” - SIni inson maqsadlariga moslaştiriş muammosi sifatida tanilgan.
Muammoning mohiyati şundaki, kelajakdagi juda kuçli modelga berilgan maqsad notöğri ifodalansa yoki tizim uni inson kutganidan boşqaça talqin qilsa, u öz vazifasini bajariş jarayonida odamlar manfaatlariga zid harakat qilişi mumkin.
Ayniqsa, sunʼiy intellekt mustaqil qaror qabul qiliş, uzoq muddatli rejalar tuziş, taşqi kompyuter tizimlari bilan işlaş va öz imkoniyatlarini kengaytiriş darajasiga yetsa, uning harakatlarini nazorat qiliş ança murakkablaşişi mumkin.
