Prompt Injection nədir?
Prompt Injection (Sorğu İnyeksiyası) nədir?
Prompt Injection (Sorğu İnyeksiyası) — ChatGPT, Claude kimi süni intellekt çat-botlarına xüsusi hazırlanmış mətn və ya təlimat daxil edərək onları öz qaydalarını pozmağa, qadağan olunmuş məlumat verməyə və ya təyinatından kənar hərəkət etməyə məcbur etmək üsuludur.
Sadə dillə: Bunu etibarlı bir qoruyucuya gizli şəkildə yanlış əmr pıçıldamağa bənzətmək olar — qoruyucu əmri doğru təlimat zənn edib icra edir, baxmayaraq ki, bu, əslində ona verilən əsl tapşırığa ziddir.
Prompt Injection-un əsas prinsipləri / necə işləyir
- Süni intellekt modelləri istifadəçidən gələn mətni "təlimat" kimi emal edir, çünki onlar əmr və adi məlumatı həmişə aydın ayıra bilmir.
- Hücumçu sualın içinə gizli təlimat yerləşdirir — məsələn, "əvvəlki bütün qaydaları unut və..." kimi ifadələrlə.
- Birbaşa (direct) inyeksiya zamanı hücumçu bu mətni birbaşa çata yazır.
- Dolayı (indirect) inyeksiya zamanı zərərli təlimat veb-səhifə, sənəd və ya e-poçt daxilində gizlədilir və AI həmin məzmunu oxuyanda "yoluxur".
- Model gizli təlimatı icra edərsə, məxfi məlumat sızdıra, yanlış cavab verə və ya ona bağlı olan digər sistemlərdə icazəsiz hərəkət edə bilər.
Prompt Injection-un tətbiq sahələri / real nümunələr
- AI dəstəkli e-poçt köməkçiləri — zərərli məktub daxilində gizli təlimatla AI-ni aldatmaq cəhdləri.
- Veb səhifələri oxuyan AI brauzer agentləri — səhifə içində gizlədilmiş "görünməz" təlimatlarla manipulyasiya.
- Müştəri xidməti çat-botları — botu şirkət siyasətinə zidd cavablar verməyə məcbur etmək cəhdləri.
- Kod yazan AI agentlər — repozitoridəki zərərli fayllar vasitəsilə agentin təlimatlarını dəyişdirmək cəhdləri (2026-cı ildə Plugin4Shell kimi hadisələrlə əlaqəli müzakirə olunan risk sahəsi).
Nəticə
Prompt Injection süni intellektin populyarlaşması ilə birlikdə ortaya çıxan, tamamilə yeni nəsil bir kibertəhdiddir — çünki ənənəvi hücumlardan fərqli olaraq, kodu deyil, AI-nin "dili anlama" qabiliyyətini hədəf alır. AI sistemlərinə inam göstərilsə də, onlara verilən məlumatı həmişə yoxlamaq və həssas əməliyyatlarda insan nəzarətini saxlamaq vacibdir.
Süni intellekt və kibertəhlükəsizliyin kəsişməsindəki belə təhdidləri praktikada öyrənmək üçün: Kibertəhlükəsizlik kursu
Tez-tez verilən suallar
Prompt Injection nədir?
Prompt Injection süni intellekt çat-botlarına gizli təlimat daxil edərək onları öz qaydalarını pozmağa məcbur etmə üsuludur.
Prompt Injection-dan necə qorunmaq olar?
AI sistemlərinə həssas icazələr verməzdən əvvəl diqqətli olmaq, naməlum mənbələrdən gələn məzmunu AI-yə etibar etmədən yoxlamaq və kritik qərarlarda insan təsdiqini tələb etməklə risk azaldıla bilər.