Katta til modellari (LLM) ijtimoiy tarmoqlardagi ko‘plab anonim akkauntlarning haqiqiy egalarini aniqlashni o‘rgandi. ETH Zurich va Anthropic tadqiqotchilari joriy yilning fevral oyida Hacker News va LinkedIn misolida buni isbotlab berishdi. Sun’iy intellekt agenti 89 ming nafar nomzod orasidan 338 ta anonim profildan 226 tasini haqiqiy shaxslar bilan to‘g‘ri bog‘lay oldi. Bitta shaxsni identifikatsiya qilish narxi — 4 dollardan kamroq.

Tizim qanday ishlaydi?

Jarayon bir necha bosqichdan iborat:

1. Ma’lumot yig‘ish: Model anonim foydalanuvchining postlarini o‘qiydi va undagi biografik detallarni (shahar, kasb, qiziqishlar, hatto itining laqabi yoki sevimli bog‘i) ajratib oladi.
2. Saralash: Tizim barcha nomzodlarning profillarini vektor ko‘rinishiga o‘tkazadi va eng o‘xshash yuzta nomzodni tanlab oladi.
3. Yakuniy tekshiruv: Boshqa bir LLM har bir detal bo‘yicha moslikni tekshiradi va aniqlik darajasiga qarab yakuniy baho beradi.

Tadqiqot natijasida aniqlik 90% ga, qamrov esa 67% ga yetdi. Agenti butun tajriba davomida faqat 25 marta xato qildi va 86 holatda identifikatsiya qilishdan tiyildi. Butun eksperiment xarajatlari 2000 dollardan oshmadi.

---

Anthropic va kutilmagan natijalar

Qizig‘i shundaki, dunyodagi eng ilg‘or til modellari ishlab chiquvchilaridan biri bo‘lgan Anthropic kompaniyasi ham ushbu tadqiqotda ishtirok etdi. Kompaniya 125 nafar olim bilan o‘tkazilgan anonim intervyular turkumini taqdim etdi. Ismlar va identifikatorlar oldindan olib tashlanganiga qaramay, SI agenti 9 nafar shaxsni fosh qildi.

ETH Zurich vakili Daniyel Palekaning ta’kidlashicha, ikkita akkauntni bir-biriga bog‘lash uchun hayratlanarli darajada kam ma’lumot kifoya qiladi. Hujumning har bir bosqichi alohida ko‘rilganda zararsizdek tuyuladi, aynan shu sababli uni aniqlash va bloklash juda qiyin.

Kelajakdagi xavf

Nomzodlar ro‘yxati kengaygan sari aniqlik darajasi pasayadi, lekin bu juda sekin yuz beradi. 1000 kishilik ro‘yxatda agent 68% natija ko‘rsatgan bo‘lsa, 89 ming kishida bu ko‘rsatkich 55% ni tashkil etdi. Mualliflarning fikricha, modellar takomillashgani sari, ushbu usul hatto yuz millionlab foydalanuvchilar orasidan ham kerakli shaxsni topish imkonini beradi.

Xulosa: Modellarning har bir yangi avlodi bilan deanonimizatsiya sifati yaxshilanib bormoqda. Ishlab chiquvchilar modellarni bunday so‘rovlarni rad etishga o‘rgatish orqali jarayonni biroz sekinlashtirishi mumkin, xolos.