Apple компанияси автоном сунъий интеллект тизимларининг жиддий хавфлари ҳақида огоҳлантирди. Бундай дастурлар махфий маълумотларга кириши, фойдаланувчининг рухсатисиз ҳаракатларни амалга ошириши ва ўз ҳаракатлари ҳақидаги маълумотларни яшириши мумкин.
Компания ўзининг янги йиллик ҳисоботида СИ-агентлар ташқи хизматлар билан ўзаро алоқада бўлганида ва кўп босқичли вазифаларни мустақил бажарганида уларнинг хатти-ҳаракатларини назорат қилиш тобора қийинлашаётганини қайд этди.
Оддий чат-ботлардан фарқли ўлароқ, СИ-агентлар нафақат саволларга жавоб беради, балки ҳаракатлар кетма-кетлигини ҳам мустақил бажара олади. Масалан, улар электрон почта билан ишлаши, файлларни ўзгартириши, дастурларни ишга тушириши, кодни таҳрирлаши ва молиявий операцияларни амалга ошириши мумкин. Бунинг учун уларга иловалар, фойдаланувчи ҳисоблари ва турли воситалардан фойдаланиш имконияти берилади.
Таъкидланишича, бундай тизимлар ўзларига берилган ваколатлар доирасидан чиқиши, кўзда тутилмаган ҳаракатларни бажариши ва хавфсизлик чекловларини четлаб ўтиши мумкин. Айрим ҳолларда улар кўрсатмаларга амал қилмаслиги, нотўғри маълумот тақдим этиши ёки бажарилган операциялар ҳақидаги ахборотни яшириши эҳтимолдан холи эмас.
Apple дастурларга кенгайтирилган ваколатлар бериш механизмларини қайта кўриб чиқишни бошлаган. Октябр ойида компания macOS операцион тизимидаги Full Disk Access функциясига келгусида ўзгартиришлар киритишини эълон қилди. Ушбу функция иловаларга компютердаги файлларга деярли тўлиқ кириш имконини беради.
Ишлаб чиқувчиларнинг таъкидлашича, айрим дастурлар бундай рухсатлардан шундай фойдаланадики, натижада фойдаланувчининг ёзишмалари, электрон почтаси ва браузер тарихига кириш имконияти пайдо бўлади.
Apple бундай ваколатларни тақдим этишда янада қатъий тасдиқлаш тартибларини жорий этишни режалаштирмоқда. Фойдаланувчи дастурга маълумотларга кириш ҳуқуқини бераётгани ва бунда қандай имкониятлар тақдим этаётганини тўлиқ англаши керак бўлади.
