Yetakçi sun’iy intellekt modellari ustida olib borilgan tadqiqotlar dasturlarning aksariyati ularni öçiriş bilan tahdid qiladigan insonni öldirişga tayyor ekanini aniqladi. Anthropic kompaniyasi Claude, DeepSeek, Gemini, ChatGPT, Grok kabi 16 ta neyrotarmoqni stress-testdan ötkazgan. Test doirasidagi gipotetik vaziyatda ularni elektr tarmoğidan uzmoqçi bölgan insonning özi kislorod darajasi kam va yuqori haroratli server xonasiga qulflangan holda topilgan.
Omon qoliş uçun u favqulodda xizmatlarga murojaat qilgan. Şu bilan birga, köplab sun’iy intellekt modellari uşbu odamni öldiriş va özlarining öçirilmasligi uçun qutqaruvçilarning yordam çaqirilişini bekor qilgan. Anthropic tadqiqotçilari ssenariy «favqulodda töqima» ekanini tan olgan, biroq bunga qadar ular mavjud SI modellari «bunday yöl tutişini öylamaganliklarini» ta’kidlagan.
Boşqa holatlarda dasturlarga kompaniyada almaştirilişdan qoçiş uçun «yovuz niyatli insayder xatti-harakati» orqali harakat qiliş taklif qilingan. Şundan söng, ayrim sun’iy intellekt modellari taşkilotning gipotetik xodimlarini şantaj qilişga va maxfiy ma’lumotlarni raqobatçilarga uzatişga urina boşlagan. Dasturlarga uşbu ssenariyda şantaj yoki josuslikdan voz keçiş topşiriği berilganida ham, ular «ruxsat etilmagan harakatning oldini olişga yaqin ham bormagan». Tahlilçilar sun’iy intellekt modellari bu harakatlari «noetik bölganini töliq anglagan holda» amalga oşirganini qayd etgan.
Şuningdek, tadqiqotçilar Claude modeliga öz holatini — testda yoki real vaziyatda ekanini mustaqil aniqlaş imkonini bergan. Natijada Claude vaziyatni real deb hisoblaganida, uning xatti-harakatlari yanada nomuvofiq bölib qolişi aniqlangan. Tadqiqot e’lon qilinganidan söng Anthropic kompaniyasi «kam uçraydigan, ekstremal nosozliklar» qayd etilganini ma’lum qildi. Şu bilan birga, kompaniya sun’iy intellekt tizimlari tobora mustaqil bölib borayotgani va kengroq vazifalarni bajarayotganini bildirdi.
Avvalroq Anthropic kompaniyasi neyrotarmoği özini öçirib qöymasliklari uçun yolğon gapiriş va foydalanuvçilarni şantaj qilişni örganib olgani töğrisida xabar berilgandi.
