Anthropic компанияси раҳбари Дарио Амодей хавфсизлик нуқтаи назаридан сунъий интеллектнинг янада кучли моделларини ишлаб чиқиш суръатини секинлаштиришга чақирди.
«Охирги бир неча ой давомида мен хавфларни тўлиқ бартараф этиш учун янада эҳтиёткор бўлиш зарур, деган хулосага келдим. Фақат хавфларнинг олдини олиш чораларига сармоя киритишнинг ўзи етарли эмас, хавфсизлик чоралари уларга етиб олишга улгуриши учун СИ моделлари имкониятларини ривожлантириш суръатини ҳам секинлаштириш зарур. Биз СИ моделлари имкониятларининг ривожланиш тезлигини пасайтиришимиз керак», — дейилади Амодейнинг баёнотида.
У шу ёздан бошлаб СИ ривожи сезиларли даражада тезлашганидан хавотир билдирди. Амодейнинг фикрича, бу сунъий интеллектнинг кейинги авлод моделларини яратиш имкониятлари ўсиб бораётгани билан боғлиқ. У, шунингдек, Hugging Face машинали ўқитиш платформаси OpenAI’нинг СИ агентлари томонидан бузиб кирилганидан хавотирда.
«Шунинг учун мен илғор технологиялар ривожини жиловлашни мақсад қилган уч босқичли режани таклиф қиламан», — деб ёзди Амодей.
Унинг режаси СИ компаниялари томонидан хавфсизлик чоралари ва моделларни ўқитиш жараёнларига риоя этилишини доимий равишда текшириш учун мустақил аудиторларни жалб қилиш, шунингдек, хавфсизликнинг умумий стандартларини ишлаб чиқиш бўйича халқаро даражада мувофиқлаштиришни ўз ичига олади.
Июл ойида OpenAI синов жараёнида унинг моделлари Hugging Face инфратузилмасини мустақил равишда бузиб кирганини маълум қилганди. Кейинчалик бундай ҳолат ягона эмаслиги маълум бўлди.
Аввалроқ Anthropic тадқиқотчиси Жейкоб Коксон СИ саноатини тарк этишини маълум қилиб, технологик корпорациялар ўртасидаги пойга дунёни «қайтиш нуқтаси»га яқинлаштираётганидан ва 2027 йил охирига бориб апокалиптик сценарийга олиб келиши мумкинлигидан хавотир билдирган эди.
Коксоннинг баёнотидан кейин компаниянинг яна бир ходими, СИни инсон манфаатларига мослаштириш — AI alignment йўналиши бўйича тадқиқот раҳбари Эван Хубингер сунъий интеллектнинг яқин ўн йил ичида инсониятни йўқ қилиб юбориш эҳтимоли 10 фоизни ташкил этиши ҳақида огоҳлантирди.
