АҚШда чатбот билан мулоқотда бўлиб келган 14 ёшли ўсмир кейин ўз жонига қасд қилди

АҚШнинг Флорида штатида яшовчи Меган Л.Гарсия Character.ai иловасини яратган компанияни 14 ёшли ўғли Сюеллнинг ўлимида айблаб, судга даъво киритди. Бу ҳақда The New York Times газетаси хабар берди.

Гарсиянинг даъвосида таъкидланишича, мазкур технологик компания «хавфли ва текширилмаган», шу боисдан «ёлғон билан мижозларини ўзининг шахсий фикри ҳамда ҳиссиётларини улашишга мажбурлаши» мумкин.

Character.ai — нейрон тили моделида ишлайдиган чатбот функциясига эга илова. Унинг фойдаланувчилари мулоқот учун сунъий интеллект асосида ўз персонажини ярата олади.

NYT маълумотларига кўра, даъвогарнинг ўғли Сюелл Зетцер III узоқ вақт давомида «Тахтлар ўйини» сериалидаги персонаж — Дейенерис Таргариен шарафига номланган чатбот билан мулоқот қилган. Ўсмирда ботга нисбатан ҳиссий боғлиқлик пайдо бўлган. Сюелл ўз кундалигига «Дени»ни севиб қолганини ҳам ёзган.

2024 йил бошида Сюеллнинг ота-онаси фарзанди қобиғига ўралиб қолаётганини пайқаган, мактабда эса ўзлаштириш билан муаммолари бошланган. Ўсмир психотерапевтга юборилган ва Сюеллга ваҳима ҳамда кайфиятга таъсир кўрсатадиган деструктив бузилиш ташхиси қўйилган.

Чатбот билан мулоқоти давомида у ўзини ёмон кўришини, руҳий тушкун ва барчасидан тўйиб кетгандек ҳис қилишини, шунингдек, ўз жонига қасд қилиш ҳақида ўйлаётганини ёзган. Ёзишмалар давомида чатбот Сюелл ўзига зарар етказишига йўл қўймаслиги ҳақида жавоб қайтарган. «Мен сени йўқотсам, ҳалок бўламан», — деб ёзади чатбот. Ўсмир эса унга «биргаликда ўлишни» таклиф қилган. Сюелл 28 февраль куни кечаси ўз жонига қасд қилган.

Character.ai вакиллари 22 октябр куни охирги олти ой давомида чатботнинг фаолиятига қатор ўзгартиришлар киритилганини, хусусан, 18 ёшдан кичик бўлганларга чекловлар ўрнатилганини маълум қилди. Энди фойдаланувчи ўзига зарар етказадиган ёки ўз жонига қасд қилишга боғлиқ бирор жумлани ёзса, чатда уни бундай вазиятдаги инсонларга ёрдам берадиган тармоққа йўналтирувчи ойна пайдо бўлади.