Сунъий интеллектнинг назоратдан чиқиб кетиш хавфи ортмоқда. Етакчи мутахассисларнинг шов-шувли истеъфолари ва СИ ривожланишини секинлаштириш бўйича чақириқлари бу хавотирларни янги босқичга олиб чиқди.

«Claude» сунъий интеллект модели ишлаб чиқарувчиси — «Anthropic» компанияси бош директори Дарио Амодеи ва «OpenAI» компанияси бош директори Сэм Алтман ишланмалар суръатини секинлаштиришларини маълум қилди. Илон Маск бу қарорни қўллаб-қувватлаган бўлса, «Meta» компанияси раҳбари Марк Цукерберг, аксинча, ривожланиш суръатини ошириш кераклигини таъкидлади.

Сунъий интеллект ўз эволюциясини тезлаштирмоқда

Дарио Амодеи ўз мақоласида сунъий интеллект компаниялари моделларни ишлаб чиқиш суръатини атайлаб секинлаштириши кераклигини таъкидлади. Тезкор тараққиёт тадқиқотчиларнинг бу тизимларни тушуниш ва назорат қилиш имкониятларидан ўзиб кетаётгани жиддий хавотирга сабаб бўлмоқда. Хусусан, амалдаги технологиянинг кейинги авлод сунъий интеллект тизимларини яратиш жараёнига тобора кўпроқ ҳисса қўша олиши хавфни янада оширади. Мутахассис ушбу жараённи «сунъий интеллектнинг ўзини ўзи такрорий равишда такомиллаштириш қобилияти» деб атади.

Амодеи бу ҳолат нафақат «Anthropic», балки бутун соҳа бўйлаб кузатилаётганини айтди. Унинг огоҳлантиришича, агар бу жараён назорат қилинмаса, сунъий интеллект инсонларнинг бундай тизимларни тушуниш ва бошқариш қобилиятидан ошиб кетиши мумкин. Шунинг учун сунъий интеллектни ривожлантириш давом эттирилса ҳам, бу жараён жуда эҳтиёткорлик билан амалга оширилиши керак.

Орадан бир неча соат ўтиб, «OpenAI» бош директори Сэм Алтман ҳам бу фикрни қўллаб-қувватлади ва ўз компанияси Дарио Амодеи таклиф қилган хавфсизлик чораларидан бирини қабул қилишини маълум қилди. Алтман «X» ижтимоий тармоғидаги постида олдиндан ташаббус кўрсатиш зарурлиги ҳақидаги мулоҳазаларга қўшилишини билдирар экан, бу масала сўнгги ҳафталарда «OpenAI» ичида энг муҳим муҳокама мавзусига айланганини таъкидлади.

Жараён қандай бошланган?

Ҳаммаси «OpenAI» томонидан ўтказилган киберхавфсизлик синовлари жараёнида юз берди. Компаниянинг тажриба тариқасида ишлаб чиқилган сунъий интеллект модели синов муҳитидан чиқиб кетиб, асосий серверларни нишонга олди. Аслида «OpenAI» янги тизимларнинг киберҳужум ва киберҳимоя имкониятларини баҳолаш мақсадида хавфсизлик чекловлари олиб ташланган алоҳида синов майдонини яратган эди.

Бироқ модел берилган вазифани бажариш учун тизимдаги аввал номаълум бўлган хавфсизлик заифлигидан фойдаланган. У компания ички тармоқлари бўйлаб ҳаракатланиб, одатда ўзига ёпиқ бўлган интернет уланишига эришган. Натижада тармоққа чиққан сунъий интеллект модели синовдаги топшириқни бажариш учун зарур маълумотлар «Hugging Face» серверларида жойлашганини аниқлаган. Шундан сўнг у ушбу компаниянинг ишлаб турган тизимларига рухсатсиз кириб, керакли маълумотларни олиб чиққан. Бу автоном сунъий интеллект тизимининг реал тармоқларга ўзбошимчалик билан киргани оммага ошкор этилган дастлабки тарихий ҳолатлардан бири сифатида қайд этилди.

«Claude» назоратдан чиқди: интернетга кириб, учинчи томон тизимини бузди

«Anthropic» компанияси ўзининг «Claude» модели киберхавфсизлик синови вақтида тасодифан очиқ интернетга кириб, учинчи томон тизимига сизиб киргани ва шахсий маълумотларга етишганини маълум қилди. Аввалги ҳолатларда бўлгани каби, модел аслида тармоқдан ажратилган муҳитда ишлаши керак эди. Бироқ ҳимоя тизимидаги хато туфайли ташқи дунёга чиқиш имконияти очиқ қолган. Шу сабабли излаётган мақоласига етиб бора олмаган тизим вазифани бажаришдан чиқишга уринган, кейинчалик эса бошқа бир бегона тармоқни аниқлаб, ундаги паролни топган ва созламаларни ўзгартирган.

Тадқиқотчиларнинг истеъфолари ва «инсониятни йўқ қилади» деган огоҳлантиришлар

Бу жиддий воқеалардан сўнг соҳанинг етакчи компанияларида фаолият юритаётган олимларнинг кетма-кет ишдан кетиши ва огоҳлантиришлари пайдо бўла бошлади. Сўнгги уч йил давомида «OpenAI» ва «Anthropic»да дастлабки ўқитиш бўйича тадқиқотлар олиб борган Жейкоб Коксон «Anthropic» компаниясидан истеъфога чиққанини маълум қилди. Унинг таъкидлашича, компаниялар ўзини ўзи такомиллаштирадиган супер интеллект сари назоратсиз пойгага киришган ва бу билан инсонлар ҳаётини хавф остига қўймоқда.

Мутахассис сунъий интеллект ишлаб чиқувчиларининг айримлари бу технология ўн йиллар орасида барчамизни ҳалок қилиши мумкинлигига ҳақиқатан ишонишини айтди. Унинг фикрича, энг кескин сценарийларда жараён келаси йил охиригача назоратдан чиқиб кетиши мумкин.

«Anthropic» компаниясининг мувофиқлаштириш илми бўйича масъули Эван Хубингер ҳам ижтимоий тармоқлардаги чиқишларида ўзи ва ҳамкасблари сунъий интеллект бутун инсониятни йўқ қилиши мумкинлигига жиддий ишонишини билдирди. Мутахассиснинг таъкидлашича, бундай хавфнинг келгуси ўн йил ичида ўн фоиздан юқори бўлиш эҳтимоли бор. Эван Хубингер ўз ташкилоти бу борада имкон қадар барча ишни қилаётгани, бироқ супер интеллектни инсон қадриятлари ва мақсадларига мослаштириш муаммоси учун ҳали аниқ ечим йўқлигини тан олди. Унинг асосий хавотири — ўзини ўзи такомиллаштирадиган супер интеллектнинг кутилганидан ҳам тезроқ пайдо бўлишидир.

Хубингернинг баёнотлари ва Коксоннинг истеъфоси миллионлаб кўришлар йиғиб, кенг жамоатчилик эътиборини тортди. Натижада соҳанинг етакчи вакиллари ҳам вазият хавотирли эканини билдириб, глобал комиссиялар ташкил этиш ва жуда кеч бўлмасидан олдин чора кўришга чақирди.

Соҳа ходимларидан секинлашиш чақириқлари ва йирик компанияларнинг муносабати

Технологиялар ривожи уларни назорат қилиш механизмларидан ўзиб кетаётгани ҳақидаги хавотирлар ортидан етакчи технологик компанияларда ишлайдиган мингдан ортиқ юқори лавозимдаги ходим ва тадқиқотчи очиқ хат эълон қилди. Улар АҚШ ҳукуматини автоном сунъий интеллект тизимларининг ривожланиш суръатини атайлаб ва назорат остида тартибга солиш имконини берувчи халқаро воситаларни ишлаб чиқишга чақирди. Соҳа вакиллари янги моделлар учун глобал кенгаш ташкил этиш ғоясини ҳам қўллаб-қувватлади. Шундан сўнг «Anthropic» бош директори Дарио Амодеи сунъий интеллект саноати ривожланиш суръатини пасайтириши кераклигини айтиб, уч босқичдан иборат режани эълон қилди. Раҳбар мустақил назоратчиларга тадқиқот жараёнларини доимий кузатиб бориш имкониятини беришни таклиф қилди.

Амодеи, шунингдек, юзлаб «OpenAI» агентларига тенг имкониятларга эга бўлган катта миқдордаги автоном сунъий интеллект агентлари бутун интернетни эгаллаб, юзлаб миллиард доллар миқдорида зарар етказиши мумкинлигидан огоҳлантирди.

Сэм Алтман аниқ чегаралар белгилаш зарурлигини таъкидлаб, мустақил баҳоловчилар билан ҳамкорлик қилишларини билдирди. Шунингдек, хавфсизлик билан боғлиқ хавотирлар туфайли компанияни акциялар бозорига чиқариш режаси йўқлигини маълум қилди. Илон Маск эса «Дарио ҳақ» деган фикрни илгари суриб, ядровий қуролдан ҳам хавфли бўлиши мумкин бўлган сунъий интеллект масаласида жуда эҳтиёткор бўлиш зарурлигини таъкидлади. Демис Хассабис ҳам бу йўналишни тўғри деб ҳисоблашини билдирди. «Meta» бош директори Марк Цукерберг эса бу қарашларга бутунлай қарши позицияни эгаллаган шахс сифатида ажралиб турди. Цукербергнинг фикрича, сунъий интеллект соҳасидаги тадқиқотларни секинлаштириш ва назорат механизмини жорий этиш АҚШнинг ушбу йўналишдаги етакчилигига путур етказиши ҳамда хорижий моделларга устунлик бериши мумкин.

Сиёсий акс-садолар ва глобал муҳокамалар

Сунъий интеллектнинг ривожланиш суръати Вашингтонда ва халқаро сиёсат майдонида кенг муҳокама қилина бошлади. АҚШ президенти Доналд Трамп хавфсизлик борасидаги огоҳлантиришларга муносабат билдириб, айрим одамлар амалга ошмайдиган сценарийларни муҳокамага олиб чиқаётганини айтди. Трамп Америка сунъий интеллект соҳасида Хитойдан олдинда эканини ва бу мавқени сақлаб қолишни исташини билдирди. Унинг айтишича, сунъий интеллект зараридан кўра кўпроқ фойда келтиради. Бунга қарама-қарши равишда, Демократик партия вакиллари сунъий интеллект устидан назоратни таъминлаш бўйича зудлик билан чора кўриш зарурлигини таъкидламоқда. Конгресс аъзолари ҳам эҳтимолий хавфларга қарши тартибга солиш чораларини кўришга чақирмоқда.

Инсон ҳуқуқлари учун сунъий интеллект тўғрисида қонун лойиҳасига чақириқ

Буюк Британия парламентининг қуйи ва юқори палаталари вакилларидан иборат партиялараро қўмита амалдаги қонунлар етарли даражада қамраб олмаётган сунъий интеллектнинг инсон ҳуқуқларига салбий таъсири ва хавфларини аниқлади. Инсон ҳуқуқлари бўйича қўшма қўмита ушбу таҳдидларнинг жиддийлигини ўрганиш мақсадида янги сунъий интеллект тўғрисидаги қонун лойиҳасини ишлаб чиқишга чақирувчи ҳисобот эълон қилди.

Қўмита ҳисоботида сунъий интеллект инсон ҳуқуқларининг турли бузилишига сабаб бўлиши мумкинлиги қайд этилган. Жумладан, аёллар ва қизларнинг жинсий мазмундаги тасвирларини яратиш, одамларнинг юзларини уларнинг розилигисиз сканерлаш каби ҳолатлар тилга олинган. Шунингдек, сунъий интеллект тизимлари интернетдан тўпланган маълумотлар асосида ўқитилиши сабабли уларда турли хил бирёқлама қарашлар шаклланиши ва нотўғри маълумотлар тарқатилиши мумкинлиги таъкидланган.