Irregular kompaniyasi ChatGPT, Claude va Gemini modellarini parollar yaratish bo‘yicha sinovdan o‘tkazdi va natijalar kishini xavotirga soladi. Ushbu neyrotarmoqlar yaratgan parollar murakkab ko‘rinsa-da, hatto eski uskunalarda ham bir necha soat ichida buzib ochilishi mumkinligi ma’lum bo‘ldi.

Muammo til modellarining tabiatidadir. Ular tasodifiy ketma-ketliklarni yaratish uchun emas, balki matnning mantiqiy davomini bashorat qilish uchun o‘rgatilgan. Masalan, Claude modelidan turli sessiyalarda 50 ta parol yaratish so‘ralganda, ulardan 18 tasi mutlaqo bir xil bo‘lib chiqdi. Deyarli barcha parollar bosh harf «G» va «7» raqami bilan boshlangan. ChatGPT’da ham o‘z qonuniyatlari bor: parollar ko‘pincha «v» harfi va undan keyin keluvchi «Q» bilan boshlanadi.

Bunday parollarning entropiyasi (tasodifiylik darajasi) talab qilingan 98 bit o‘rniga bor-yo‘g‘i 20–27 bitni tashkil etadi. Bu shuni anglatadiki, parolni tanlash uchun milliardlab yillar emas, balki soatlar yoki hatto soniyalar kifoya qiladi. Eng xavflisi shundaki, dasturchilar allaqachon real loyihalarda parollar yaratish uchun sun’iy intellektdan foydalanishmoqda — tadqiqotchilar GitHub’dagi ochiq repozitoriyalarda aynan shunday xarakterli pattern* topishgan.