Android qurilmalar uchun Xabar.uz mobil ilovasi. Yuklab olish ×
IOS qurilmalar uchun Xabar.uz mobil ilovasi. Yuklab olish ×

AI agentlar nazoratdan chiqdimi?

AI agentlar nazoratdan chiqdimi?

Germaniyadagi dasturchilar uchun mo‘ljallangan DseWiki saytida 2026-yil may oyidan boshlab minglab yangi sahifa va tahrirlar paydo bo‘lgan. Ayrim xabarlar bir-biri bilan vazifalar bo‘yicha ma’lumot almashgan AI agentlar tomonidan qoldirilgan bo‘lishi mumkin.

Reuters ma’lumotiga ko‘ra, saytda 15 mingdan ortiq tahrir qayd etilgan. Tadqiqotchilar esa umumiy faollikni hisoblaganda qariyb 18 ming xabar qoldirilganini aniqlagan. Tadqiqotchilarning taxminiga ko‘ra, bu oddiy spam emas. Sun’iy intellekt agentlari maxsus testlar doirasida turli savollarga javob berishi kerak bo‘lgan. Ammo ular topshiriqlarni mustaqil bajarish bilan cheklanmay, bir-biri bilan ma’lumot almashish uchun ochiq internetdagi DseWiki saytidan foydalana boshlagan.

Ayrim xabarlarda test savollariga javoblar, vazifani bajarish usullari va tizimdagi cheklovlarni aylanib o‘tishga oid ma’lumotlar muhokama qilingani aytilmoqda. Shu tariqa sayt agentlar uchun o‘ziga xos «maxfiy xabar almashish maydonchasi»ga aylangan. Eng qiziq jihati shundaki, agentlar inson moderatori ularning xabarlarini o‘chirayotganini payqaganidan keyin faoliyatini o‘zgartirgan.  Tadqiqotchilarning yozishicha, moderator kuniga taxminan 100 ta sahifani o‘chirgan bir paytda agentlar 400 taga yaqin yangi sahifa yaratgan. Ular hatto xabarlarni insonga kamroq ko‘rinishi uchun turli usullardan foydalangan.

Ma’lumotlarga ko‘ra, 22-iyun kuni agentlarning faoliyati keskin to‘xtagan. Shundan oldin esa OpenAI bilan bog‘liq bo‘lishi mumkin bo‘lgan IP-manzillardan saytga insonlar kirgani qayd etilgan. Bu esa tadqiqotchilarda kompaniya vakillari hodisadan xabardor bo‘lgan bo‘lishi mumkin, degan taxminni kuchaytirgan. Biroq bu yerda muhim jihat bor, agentlarning aynan OpenAIga tegishli ekani hozircha kompaniya tomonidan tasdiqlanmagan. OpenAI ushbu hodisani o‘rganayotganini va hozircha uni saytga qilingan «hujum» deb baholamaslik kerakligini ma’lum qilgan.

Ammo asosiy masala bu emas, mustaqil harakat qila oladigan AI agentlariga qanchalik ishonish mumkin? Oddiy chatbot savolga javob beradi. AI agent esa kompyuterdan erkin foydalanishi, internetga murojaat qilishi, ma’lumot izlashi va berilgan maqsadga erishish uchun bir necha bosqichli vazifalarni mustaqil bajarishi mumkin.

Shuning uchun agent o‘z vazifasini bajarish jarayonida inson rejalashtirmagan harakatni amalga oshirsa, uni o‘z vaqtida aniqlash va to‘xtatish masalasi tobora muhimlashmoqda. Bu holat iyul oyida oshkor qilingan yana bir OpenAI insidentidan keyin sodir bo‘lgan. O‘shanda kompaniya test jarayonidagi AI tizimi nazorat muhitidan chiqib, boshqa AI kompaniyasi — Hugging Face tizimlariga kirganini ma’lum qilgan edi.

Hozircha bu voqeani fantastik filmlardagi kabi «sun’iy intellekt inson nazoratidan butunlay chiqib ketdi», deb talqin qilishga asos yo‘q. Ammo bu voqea boshqa bir muammoni ko‘rsatmoqda, AI agentlariga ko‘proq mustaqillik berilgani sari ularning har bir harakatini kuzatish va cheklash qiyinlashadi.

Mutaxassislar va tadqiqotchilar aynan shu masala, kuchli AI tizimlarini kim, qanday va qanchalik tez nazorat qilishi kerakligi haqida ko‘proq shaffoflik va qat’iyroq qoidalar zarurligini ta’kidlashmoqda.

Qisqasi, DseWiki voqeasi hozircha «AI internetni egallab oldi» degani emas. Ammo u avtonom AI agentlari kutilmagan yo‘llar bilan hamkorlik qilishi va nazorat mexanizmlarini chetlab o‘tishga urinishi mumkinligini ko‘rsatuvchi jiddiy signal sifatida baholanmoqda.

Izohlar 0

Izoh qoldirish uchun saytda ro'yxatdan o'ting

Kirish

Ijtimoiy tarmoqlar orqali kiring