AQŞning Florida ştatida yaşovçi Megan L.Garsiya Character.ai ilovasini yaratgan kompaniyani 14 yoşli öğli Syuyellning ölimida ayblab, sudga da’vo kiritdi. Bu haqda The New York Times gazetasi xabar berdi.
Garsiyaning da’vosida ta’kidlanişiça, mazkur texnologik kompaniya «xavfli va tekşirilmagan», şu boisdan «yolğon bilan mijozlarini özining şaxsiy fikri hamda hissiyotlarini ulaşişga majburlaşi» mumkin.
Character.ai — neyron tili modelida işlaydigan çatbot funksiyasiga ega ilova. Uning foydalanuvçilari muloqot uçun sun’iy intellekt asosida öz personajini yarata oladi.
NYT ma’lumotlariga köra, da’vogarning öğli Syuyell Zetser III uzoq vaqt davomida «Taxtlar öyini» serialidagi personaj — Deyyeneris Targariyen şarafiga nomlangan çatbot bilan muloqot qilgan. Ösmirda botga nisbatan hissiy boğliqlik paydo bölgan. Syuyell öz kundaligiga «Deni»ni sevib qolganini ham yozgan.
2024 yil boşida Syuyellning ota-onasi farzandi qobiğiga öralib qolayotganini payqagan, maktabda esa özlaştiriş bilan muammolari boşlangan. Ösmir psixoterapevtga yuborilgan va Syuyellga vahima hamda kayfiyatga ta’sir körsatadigan destruktiv buziliş taşxisi qöyilgan.
Çatbot bilan muloqoti davomida u özini yomon körişini, ruhiy tuşkun va barçasidan töyib ketgandek his qilişini, şuningdek, öz joniga qasd qiliş haqida öylayotganini yozgan. Yozişmalar davomida çatbot Syuyell öziga zarar yetkazişiga yöl qöymasligi haqida javob qaytargan. «Men seni yöqotsam, halok bölaman», — deb yozadi çatbot. Ösmir esa unga «birgalikda ölişni» taklif qilgan. Syuyell 28 fevral kuni keçasi öz joniga qasd qilgan.
Character.ai vakillari 22 oktyabr kuni oxirgi olti oy davomida çatbotning faoliyatiga qator özgartirişlar kiritilganini, xususan, 18 yoşdan kiçik bölganlarga çeklovlar örnatilganini ma’lum qildi. Endi foydalanuvçi öziga zarar yetkazadigan yoki öz joniga qasd qilişga boğliq biror jumlani yozsa, çatda uni bunday vaziyatdagi insonlarga yordam beradigan tarmoqqa yönaltiruvçi oyna paydo böladi.
