Microsoft hammuassisi Bill Geyts NBC News’ga bergan intervyusida zamonaviy sunʼiy intellekt vositalari yomon niyatli odamlar qoʻlida oʻta xavfli qurolga aylanishi mumkinligini aytgan. U texnologiyani qonunchilik darajasida nazorat qilish zarurligini ham taʼkidlagan.
Tom’s Guide nashri ushbu ogohlantirishni muhokama qilish uchun sunʼiy intellekt, bulutli texnologiyalar va kiberxavfsizlik boʻyicha ekspert Devid Lintikumga murojaat qilgan.
Lintikumning tushuntirishicha, bunday koʻlamdagi falokatga sabab boʻlish uchun SI muhim infratuzilma, qurol-yarogʻ, taʼminot zanjirlari yoki biologik tizimlarga taʼsir oʻtkazish imkoniga ega boʻlishi kerak. Bundan tashqari, u inson aralashuvisiz harakatlana olishi lozim.
Ekspert fikricha, buning uchun tizimlarni oʻzaro ulashdagi katta xatolar, boshqaruvdagi jiddiy kamchiliklar va texnologiyadan qasddan zararli maqsadlarda foydalanish kabi omillar birlashishi zarur. Shu sababli u bunday ssenariyni muqarrar yoki yaqin kelajakda kutilayotgan hodisa deb baholamaydi.
Lintikum Geyts terrorchilar yoki beqaror davlatlar SIdan foydalanishi mumkinligini nazarda tutgan boʻlishi ehtimolini aytgan. Biroq uning bahosicha, zararli gʻoyadan keng koʻlamli falokatni amalga oshirishgacha boʻlgan yoʻlda katta amaliy toʻsiqlar bor.
Ayni paytda ekspert sunʼiy intellekt bilan bogʻliq bugungi xavflarni inkor etmaydi. U maʼlumotlar sizib chiqishi, firibgarlik, dipfeyklar, notoʻgʻri avtomatlashtirish va tarafkash qarorlarni dolzarb muammolar qatoriga kiritgan.
Uning asosiy xavotiri - yetarlicha puxta ishlanmagan SI tizimlarining haqiqiy korporativ va davlat tizimlariga ulanishi. Ayrim tashkilotlar texnologiyani zarur nazorat mexanizmlarisiz joriy etishi zarar keltirishi mumkin.
Lintikum xavflarni kamaytirish uchun SIga faqat vazifasini bajarishga zarur vakolatlarni berish, tizimlarni ajratib ishlatish va yuqori xavfli harakatlarni inson tasdigʻiga bogʻlashni taklif qilgan. Shuningdek, tizimning barcha harakatlarini qayd etish, muntazam sinovdan oʻtkazish va oʻzgarishlarni ortga qaytarish imkonini saqlash muhimligini aytgan.
Ekspertning fikricha, faqat favqulodda oʻchirish tugmasiga tayanish yetarli emas. Inson muammoni kech aniqlasa, tizim oʻchirilguniga qadar zarar yetkazib boʻlingan boʻlishi mumkin. Shuning uchun xavfsizlik bir nechta nazorat qatlamiga tayanishi va dasturni yaratishning dastlabki bosqichlaridanoq hisobga olinishi kerak.
