Microsoft ҳаммуассиси Билл Гейтс NBC News’га берган интервюсида замонавий сунъий интеллект воситалари ёмон ниятли одамлар қўлида ўта хавфли қуролга айланиши мумкинлигини айтган. У технологияни қонунчилик даражасида назорат қилиш зарурлигини ҳам таъкидлаган.
Tom’s Guide нашри ушбу огоҳлантиришни муҳокама қилиш учун сунъий интеллект, булутли технологиялар ва киберхавфсизлик бўйича эксперт Дэвид Линтикумга мурожаат қилган.
Линтикумнинг тушунтиришича, бундай кўламдаги фалокатга сабаб бўлиш учун СИ муҳим инфратузилма, қурол-яроғ, таъминот занжирлари ёки биологик тизимларга таъсир ўтказиш имконига эга бўлиши керак. Бундан ташқари, у инсон аралашувисиз ҳаракатлана олиши лозим.
Эксперт фикрича, бунинг учун тизимларни ўзаро улашдаги катта хатолар, бошқарувдаги жиддий камчиликлар ва технологиядан қасддан зарарли мақсадларда фойдаланиш каби омиллар бирлашиши зарур. Шу сабабли у бундай сценарийни муқаррар ёки яқин келажакда кутилaётган ҳодиса деб баҳоламайди.
Линтикум Гейтс террорчилар ёки беқарор давлатлар СИдан фойдаланиши мумкинлигини назарда тутган бўлиши эҳтимолини айтган. Бироқ унинг баҳосича, зарарли ғоядан кенг кўламли фалокатни амалга оширишгача бўлган йўлда катта амалий тўсиқлар бор.
Айни пайтда эксперт сунъий интеллект билан боғлиқ бугунги хавфларни инкор этмайди. У маълумотлар сизиб чиқиши, фирибгарлик, дипфейклар, нотўғри автоматлаштириш ва тарафкаш қарорларни долзарб муаммолар қаторига киритган.
Унинг асосий хавотири — етарлича пухта ишланмаган СИ тизимларининг ҳақиқий корпоратив ва давлат тизимларига уланиши. Айрим ташкилотлар технологияни зарур назорат механизмларисиз жорий этиши зарар келтириши мумкин.
Линтикум хавфларни камайтириш учун СИга фақат вазифасини бажаришга зарур ваколатларни бериш, тизимларни ажратиб ишлатиш ва юқори хавфли ҳаракатларни инсон тасдиғига боғлашни таклиф қилган. Шунингдек, тизимнинг барча ҳаракатларини қайд этиш, мунтазам синовдан ўтказиш ва ўзгаришларни ортга қайтариш имконини сақлаш муҳимлигини айтган.
Экспертнинг фикрича, фақат фавқулодда ўчириш тугмасига таяниш етарли эмас. Инсон муаммони кеч аниқласа, тизим ўчирилгунига қадар зарар етказиб бўлинган бўлиши мумкин. Шунинг учун хавфсизлик бир нечта назорат қатламига таяниши ва дастурни яратишнинг дастлабки босқичлариданоқ ҳисобга олиниши керак.
