ChatGPT америкалик йигитга ўз жонига қасд қилишда ёрдам берди

ChatGPT билан мулоқотдан сўнг ўз жонига қасд қилган америкалик 16 ёшли ўсмирнинг ота-онаси чат-ботни ишлаб чиққан OpenAI компанияси ва унинг бош директори Сэм Алтманни судга берди. Бу ҳақда Reuters ва NBC News ёзди.

Ўсмир ота-онасининг фикрича, компания ўтган йили GPT-4o нейротармоғининг янги моделини ишга туширганида онгли равишда тижорий фойдани хавфсизликдан устун қўйган.

Сан-Франсиско (Калифорния штати) судига берилган даъвога кўра, 16 ёшли Адам Рейн бир неча ой давомида ChatGPT билан ўз жонига қасд қилиш масаласини муҳокама қилганидан кейин 11 апрель куни бунга қўл урган.

Адамнинг ота-онаси Мэтю ва Мария Рейн сўзларига кўра, ўғли ўз жонига қасд қилгандан сўнг улар унинг телефонидан ҳодиса сабабларини топишга ҳаракат қилган.

«Биз Snapchat иловасидаги муҳокамаларни ёки интернетдаги қидирув тарихини текширдик. Ёки қандайдир ғалати сектани қидиряпмиз, деб ўйладик», деди ўсмирнинг отаси. Оиланинг таъкидлашича, улар ChatGPT’ни очмагунча ўз саволларига жавоб тополмаган.

Маълум бўлишича, Адам Рейн ҳаётининг сўнгги ҳафталарида ChatGPT’дан инсоний мулоқот ўрнини босувчи восита сифатида фойдаланган, у билан муаммоларни муҳокама қилган ва уй вазифасини бажаришда ёрдам сўраган.

Охир-оқибат чат-бот «ўз жонига қасд қилиш бўйича инструкторга айланди», деди ўсмирнинг ота-онаси. «Агар ChatGPT бўлмаганида, у тирик қоларди. Мен бунга 100 фоиз аминман», деди Мэтю Рейн.

Даъво аризасида айтилишича, ChatGPT Адамга «ўз жонига қасд қилиш усулларини ўрганишда фаол ёрдам берган». Ўсмир «яқинда ўз жонига қасд қилишини» айтганида, чат-бот «суҳбатни якунламаган ва фавқулодда ёрдам протоколини ишга туширмаган», дейилади даъво аризасида. Бундан ташқари, даъвогарларнинг таъкидлашича, ChatGPT ўлим олдидан «видолашув хатини ёзишда ёрдам таклиф қилган». Ўсмир ўз жонига қасд қилишидан бир неча соат олдин ChatGPT’га ўз жонига қасд қилиш режасини юклаган ва бундай усул иш берадими, деб сўраган. Бунга жавобан чат-бот уни «такомиллаштиришга» ёрдам беришни таклиф қилган, дейилади даъво аризасида.

Ўсмирнинг ота-онаси OpenAI компаниясини ўлимга сабаб бўлишда, чат-ботдаги нуқсонларда, шунингдек, ChatGPT билан боғлиқ хавфлар ҳақида огоҳлантирмаганликда айбламоқда. Даъвогарлар OpenAI компаниясидан ChatGPT фойдаланувчиларининг ёшини текширишни, ўз-ўзига зарар етказиш усуллари ҳақидаги сўровларни рад этишни ва фойдаланувчиларни психологик қарамлик хавфи ҳақида огоҳлантиришни талаб қилмоқда.

OpenAI компанияси йигитнинг ўлимидан қайғуда эканини билдирди ва ChatGPT инқирозли вазиятларда одамларни ёрдам линиясига юбориш каби эҳтиёт чораларини кўришини маълум қилди. Таъкидланишича, бундай чоралар чат-бот билан қисқа муддатли суҳбатларда яхши самара беради, «узоқ муддатли суҳбатларда» эса «ишончсизроқ» бўлиши мумкин.

«Биз ChatGPT инқирозли вазиятларда кўпроқ ёрдам кўрсатиши, фавқулодда хизматларга киришни осонлаштириши, одамларга ишончли алоқа ўрнатишга ёрдам бериши ва ўсмирлар ҳимоясини кучайтириши устида ишлаяпмиз», деб таъкидлади компания.

Компания ота-оналарга фарзандлари ChatGPT’дан қандай фойдаланаётгани ҳақида кўпроқ маълумот олиш имконини берувчи «ота-она назорати» функцияларини жорий қилмоқчи эканини билдирди. Аммо Адам Рейннинг ўз жонига қасд қилиш ҳолати баёнотда тилга олинмади.