Sun’iy intellektning nazoratdan chiqib ketish xavfi ortmoqda. Yetakchi mutaxassislarning shov-shuvli iste’folari va SI rivojlanishini sekinlashtirish bo‘yicha chaqiriqlari bu xavotirlarni yangi bosqichga olib chiqdi.

«Claude» sun’iy intellekt modeli ishlab chiqaruvchisi — «Anthropic» kompaniyasi bosh direktori Dario Amodei va «OpenAI» kompaniyasi bosh direktori Sem Altman ishlanmalar sur’atini sekinlashtirishlarini ma’lum qildi. Ilon Mask bu qarorni qo‘llab-quvvatlagan bo‘lsa, «Meta» kompaniyasi rahbari Mark Sukerberg, aksincha, rivojlanish sur’atini oshirish kerakligini ta’kidladi.

Sun’iy intellekt o‘z evolyusiyasini tezlashtirmoqda

Dario Amodei o‘z maqolasida sun’iy intellekt kompaniyalari modellarni ishlab chiqish sur’atini ataylab sekinlashtirishi kerakligini ta’kidladi. Tezkor taraqqiyot tadqiqotchilarning bu tizimlarni tushunish va nazorat qilish imkoniyatlaridan o‘zib ketayotgani jiddiy xavotirga sabab bo‘lmoqda. Xususan, amaldagi texnologiyaning keyingi avlod sun’iy intellekt tizimlarini yaratish jarayoniga tobora ko‘proq hissa qo‘sha olishi xavfni yanada oshiradi. Mutaxassis ushbu jarayonni «sun’iy intellektning o‘zini o‘zi takroriy ravishda takomillashtirish qobiliyati» deb atadi.

Amodei bu holat nafaqat «Anthropic», balki butun soha bo‘ylab kuzatilayotganini aytdi. Uning ogohlantirishicha, agar bu jarayon nazorat qilinmasa, sun’iy intellekt insonlarning bunday tizimlarni tushunish va boshqarish qobiliyatidan oshib ketishi mumkin. Shuning uchun sun’iy intellektni rivojlantirish davom ettirilsa ham, bu jarayon juda ehtiyotkorlik bilan amalga oshirilishi kerak.

Oradan bir necha soat o‘tib, «OpenAI» bosh direktori Sem Altman ham bu fikrni qo‘llab-quvvatladi va o‘z kompaniyasi Dario Amodei taklif qilgan xavfsizlik choralaridan birini qabul qilishini ma’lum qildi. Altman «X» ijtimoiy tarmog‘idagi postida oldindan tashabbus ko‘rsatish zarurligi haqidagi mulohazalarga qo‘shilishini bildirar ekan, bu masala so‘nggi haftalarda «OpenAI» ichida eng muhim muhokama mavzusiga aylanganini ta’kidladi.

Jarayon qanday boshlangan?

Hammasi «OpenAI» tomonidan o‘tkazilgan kiberxavfsizlik sinovlari jarayonida yuz berdi. Kompaniyaning tajriba tariqasida ishlab chiqilgan sun’iy intellekt modeli sinov muhitidan chiqib ketib, asosiy serverlarni nishonga oldi. Aslida «OpenAI» yangi tizimlarning kiberhujum va kiberhimoya imkoniyatlarini baholash maqsadida xavfsizlik cheklovlari olib tashlangan alohida sinov maydonini yaratgan edi.

Biroq model berilgan vazifani bajarish uchun tizimdagi avval noma’lum bo‘lgan xavfsizlik zaifligidan foydalangan. U kompaniya ichki tarmoqlari bo‘ylab harakatlanib, odatda o‘ziga yopiq bo‘lgan internet ulanishiga erishgan. Natijada tarmoqqa chiqqan sun’iy intellekt modeli sinovdagi topshiriqni bajarish uchun zarur ma’lumotlar «Hugging Face» serverlarida joylashganini aniqlagan. Shundan so‘ng u ushbu kompaniyaning ishlab turgan tizimlariga ruxsatsiz kirib, kerakli ma’lumotlarni olib chiqqan. Bu avtonom sun’iy intellekt tizimining real tarmoqlarga o‘zboshimchalik bilan kirgani ommaga oshkor etilgan dastlabki tarixiy holatlardan biri sifatida qayd etildi.

«Claude» nazoratdan chiqdi: internetga kirib, uchinchi tomon tizimini buzdi

«Anthropic» kompaniyasi o‘zining «Claude» modeli kiberxavfsizlik sinovi vaqtida tasodifan ochiq internetga kirib, uchinchi tomon tizimiga sizib kirgani va shaxsiy ma’lumotlarga yetishganini ma’lum qildi. Avvalgi holatlarda bo‘lgani kabi, model aslida tarmoqdan ajratilgan muhitda ishlashi kerak edi. Biroq himoya tizimidagi xato tufayli tashqi dunyoga chiqish imkoniyati ochiq qolgan. Shu sababli izlayotgan maqolasiga yetib bora olmagan tizim vazifani bajarishdan chiqishga uringan, keyinchalik esa boshqa bir begona tarmoqni aniqlab, undagi parolni topgan va sozlamalarni o‘zgartirgan.

Tadqiqotchilarning iste’folari va «insoniyatni yo‘q qiladi» degan ogohlantirishlar

Bu jiddiy voqealardan so‘ng sohaning yetakchi kompaniyalarida faoliyat yuritayotgan olimlarning ketma-ket ishdan ketishi va ogohlantirishlari paydo bo‘la boshladi. So‘nggi uch yil davomida «OpenAI» va «Anthropic»da dastlabki o‘qitish bo‘yicha tadqiqotlar olib borgan Jeykob Kokson «Anthropic» kompaniyasidan iste’foga chiqqanini ma’lum qildi. Uning ta’kidlashicha, kompaniyalar o‘zini o‘zi takomillashtiradigan super intellekt sari nazoratsiz poygaga kirishgan va bu bilan insonlar hayotini xavf ostiga qo‘ymoqda.

Mutaxassis sun’iy intellekt ishlab chiquvchilarining ayrimlari bu texnologiya o‘n yillar orasida barchamizni halok qilishi mumkinligiga haqiqatan ishonishini aytdi. Uning fikricha, eng keskin ssenariylarda jarayon kelasi yil oxirigacha nazoratdan chiqib ketishi mumkin.

«Anthropic» kompaniyasining muvofiqlashtirish ilmi bo‘yicha mas’uli Evan Xubinger ham ijtimoiy tarmoqlardagi chiqishlarida o‘zi va hamkasblari sun’iy intellekt butun insoniyatni yo‘q qilishi mumkinligiga jiddiy ishonishini bildirdi. Mutaxassisning ta’kidlashicha, bunday xavfning kelgusi o‘n yil ichida o‘n foizdan yuqori bo‘lish ehtimoli bor. Evan Xubinger o‘z tashkiloti bu borada imkon qadar barcha ishni qilayotgani, biroq super intellektni inson qadriyatlari va maqsadlariga moslashtirish muammosi uchun hali aniq yechim yo‘qligini tan oldi. Uning asosiy xavotiri — o‘zini o‘zi takomillashtiradigan super intellektning kutilganidan ham tezroq paydo bo‘lishidir.

Xubingerning bayonotlari va Koksonning iste’fosi millionlab ko‘rishlar yig‘ib, keng jamoatchilik e’tiborini tortdi. Natijada sohaning yetakchi vakillari ham vaziyat xavotirli ekanini bildirib, global komissiyalar tashkil etish va juda kech bo‘lmasidan oldin chora ko‘rishga chaqirdi.

Soha xodimlaridan sekinlashish chaqiriqlari va yirik kompaniyalarning munosabati

Texnologiyalar rivoji ularni nazorat qilish mexanizmlaridan o‘zib ketayotgani haqidagi xavotirlar ortidan yetakchi texnologik kompaniyalarda ishlaydigan mingdan ortiq yuqori lavozimdagi xodim va tadqiqotchi ochiq xat e’lon qildi. Ular AQSh hukumatini avtonom sun’iy intellekt tizimlarining rivojlanish sur’atini ataylab va nazorat ostida tartibga solish imkonini beruvchi xalqaro vositalarni ishlab chiqishga chaqirdi. Soha vakillari yangi modellar uchun global kengash tashkil etish g‘oyasini ham qo‘llab-quvvatladi. Shundan so‘ng «Anthropic» bosh direktori Dario Amodei sun’iy intellekt sanoati rivojlanish sur’atini pasaytirishi kerakligini aytib, uch bosqichdan iborat rejani e’lon qildi. Rahbar mustaqil nazoratchilarga tadqiqot jarayonlarini doimiy kuzatib borish imkoniyatini berishni taklif qildi.

Amodei, shuningdek, yuzlab «OpenAI» agentlariga teng imkoniyatlarga ega bo‘lgan katta miqdordagi avtonom sun’iy intellekt agentlari butun internetni egallab, yuzlab milliard dollar miqdorida zarar yetkazishi mumkinligidan ogohlantirdi.

Sem Altman aniq chegaralar belgilash zarurligini ta’kidlab, mustaqil baholovchilar bilan hamkorlik qilishlarini bildirdi. Shuningdek, xavfsizlik bilan bog‘liq xavotirlar tufayli kompaniyani aksiyalar bozoriga chiqarish rejasi yo‘qligini ma’lum qildi. Ilon Mask esa «Dario haq» degan fikrni ilgari surib, yadroviy quroldan ham xavfli bo‘lishi mumkin bo‘lgan sun’iy intellekt masalasida juda ehtiyotkor bo‘lish zarurligini ta’kidladi. Demis Xassabis ham bu yo‘nalishni to‘g‘ri deb hisoblashini bildirdi. «Meta» bosh direktori Mark Sukerberg esa bu qarashlarga butunlay qarshi pozitsiyani egallagan shaxs sifatida ajralib turdi. Sukerbergning fikricha, sun’iy intellekt sohasidagi tadqiqotlarni sekinlashtirish va nazorat mexanizmini joriy etish AQShning ushbu yo‘nalishdagi yetakchiligiga putur yetkazishi hamda xorijiy modellarga ustunlik berishi mumkin.

Siyosiy aks-sadolar va global muhokamalar

Sun’iy intellektning rivojlanish sur’ati Vashingtonda va xalqaro siyosat maydonida keng muhokama qilina boshladi. AQSh prezidenti Donald Tramp xavfsizlik borasidagi ogohlantirishlarga munosabat bildirib, ayrim odamlar amalga oshmaydigan ssenariylarni muhokamaga olib chiqayotganini aytdi. Tramp Amerika sun’iy intellekt sohasida Xitoydan oldinda ekanini va bu mavqeni saqlab qolishni istashini bildirdi. Uning aytishicha, sun’iy intellekt zararidan ko‘ra ko‘proq foyda keltiradi. Bunga qarama-qarshi ravishda, Demokratik partiya vakillari sun’iy intellekt ustidan nazoratni ta’minlash bo‘yicha zudlik bilan chora ko‘rish zarurligini ta’kidlamoqda. Kongress a’zolari ham ehtimoliy xavflarga qarshi tartibga solish choralarini ko‘rishga chaqirmoqda.

Inson huquqlari uchun sun’iy intellekt to‘g‘risida qonun loyihasiga chaqiriq

Buyuk Britaniya parlamentining quyi va yuqori palatalari vakillaridan iborat partiyalararo qo‘mita amaldagi qonunlar yetarli darajada qamrab olmayotgan sun’iy intellektning inson huquqlariga salbiy ta’siri va xavflarini aniqladi. Inson huquqlari bo‘yicha qo‘shma qo‘mita ushbu tahdidlarning jiddiyligini o‘rganish maqsadida yangi sun’iy intellekt to‘g‘risidagi qonun loyihasini ishlab chiqishga chaqiruvchi hisobot e’lon qildi.

Qo‘mita hisobotida sun’iy intellekt inson huquqlarining turli buzilishiga sabab bo‘lishi mumkinligi qayd etilgan. Jumladan, ayollar va qizlarning jinsiy mazmundagi tasvirlarini yaratish, odamlarning yuzlarini ularning roziligisiz skanerlash kabi holatlar tilga olingan. Shuningdek, sun’iy intellekt tizimlari internetdan to‘plangan ma’lumotlar asosida o‘qitilishi sababli ularda turli xil biryoqlama qarashlar shakllanishi va noto‘g‘ri ma’lumotlar tarqatilishi mumkinligi ta’kidlangan.