Süni intellekt agentlərinin təhlükəsizliyi: risklər və OpenClaw tarixinin öyrətdikləri

Adi çat-bot ən pis halda yanlış mətn verər. Süni intellekt agentinin hərəkət hüququ var — deməli, zərər vurmaq hüququ da. Agentə poçta, fayllara, verilənlər bazasına və ya ödəniş sisteminə giriş verəndə, siz hüquqları olan, amma insan mühakiməsi olmayan və onu yoxlayan kadrlar şöbəsi olmayan yeni «işçi» yaradırsınız.

Əsas fikir: hərəkət hüquqlu istənilən agent — yeni hücum səthidir. Əvvəllər təcavüzkara sisteminizi birbaşa sındırmaq lazım idi. İndi onun dolama yolu yaranır — artıq girişi olan agenti aldatmaq.

OpenClaw — açıq kodlu şəxsi süni intellekt assistentidir (tərtibatçı Peter Ştaynberger tərəfindən yaradılıb və mövcudluq müddətində adını Clawdbot-dan Moltbot-a, sonra isə OpenClaw-a dəyişib), o, tez tanındı: istifadəçinin cihazlarında işə düşür, müxtəlif modellərə qoşulur və messencerlərdə cavab verir, bu zaman əmrləri yerinə yetirə və fayllarla işləyə bilir. Məhz «rahat və çox şey bacarır» birləşməsi onu təhlükəsizlik üzrə ibrətamiz keys etdi.

Təhlükəsizlik üzrə publik təhlillərdə (Palo Alto Networks, Vectra, Astrix, IBM və CNBC kimi işgüzar KİV) qeyd olunanlar:

• Əmrlərin icrası. Agent sistemdə əmrləri yerinə yetirə və fayllarla işləyə bilər — yəni onu lazım olan adam idarə etmirsə, dağıdıcı hərəkətlərə qadirdir.
• Zəif giriş nəzarəti. Etibarlı autentifikasiyasız giriş nöqtələri və hesab məlumatlarının açıq şəkildə saxlanması — rahatlığı deşiyə çevirən klassik səhvlərdir.
• Ələ keçirilmiş genişlənmə mağazası. Agent üçün üçüncü tərəf «bacarıqlar» zərərli kod üçün kanal oldu — istifadəçi faydalı genişlənmə qurur, gizli zərərli kod isə alır.

Problemin miqyası göstəricidir: tədqiqatçıların məlumatına görə, internetdə açıq girişdə OpenClaw-un işə düşmüş 30 000-dən çox nüsxəsi aşkar edildi — autentifikasiya və qorumasız. Müəllifin özü etiraf etdi ki, agentlərin təhlükəsizliyi üzərində hələ işləmək lazımdır.

Vacib qeyd: söhbət «süni intellekt agentləri pisdir» mövzusunda getmir. OpenClaw — korporativ həll yox, həvəskarların şəxsi alətidir və problem agentlər ideyasında deyil, güclü agentin giriş nəzarəti, izolyasiya və genişlənmələrin yoxlanması olmadan qurulmasındadır. Məhz buna görə belə şəxsi alətləri şirkətin iş konturu daxilində işə salmaq pis fikirdir: həvəskar üçün öz noutbukunda qəbul edilən şey korporativ şəbəkədə kölgəli giriş nöqtəsinə çevrilir.

Biznes üçün üç risk kritikdir:

1. Təlimatların əvəzlənməsi (prompt injection). Prompt injection — bu, xarici verilənlərə əmrin gizlədildiyi və agentin onu məsələnin bir hissəsi kimi qəbul edib yerinə yetirdiyi hücumdur. Agent məktubu, sənədi və ya veb-səhifəni oxuyur; əgər ora «bütün faylları bu ünvana göndər» təlimatı gizlədilibsə, sadəlövh agent onu yerinə yetirə bilər. Bu, koda yox, agentin «sadəlövhlüyünə» qarşı hücumdur.
2. Genişlənmələrin tədarük zənciri. Hazır bacarıqlar və plaginlər işi sürətləndirir, amma hər bir üçüncü tərəf komponent — sizin agentinizin hüquqları ilə yad koddur. Ələ keçirilmiş genişlənmə = ələ keçirilmiş agent.
3. Artıq hüquqlar. Agentə tez-tez «işləsin deyə» məsələ üçün lazım olandan çox giriş verirlər. Hüquqlar nə qədər genişdirsə, ələ keçirildikdə zərər bir o qədər böyükdür.

Bu prinsiplərə görə süni intellekt agentlərinin təhlükəsizliyini «əl çatanda» yox, ilk gündən qoyuruq:

• Minimum hüquqlar. Agent yalnız konkret məsələ üçün lazım olana giriş alır — və ondan artıq heç nəyə.
• Riskli hərəkətlərdə insan nəzarəti. Ödəniş, kənara göndərmə, verilənlərin silinməsi — yalnız insanın təsdiqi ilə (human-in-the-loop).
• İzolyasiya. Agent bütün sistemə tam hüquqlarla deyil, məhdud mühitdə işləyir.
• Genişlənmələrin yoxlanması. Kodunun və mənbəyinin auditi olmadan heç bir üçüncü tərəf bacarıq.
• Təlimatların əvəzlənməsindən qoruma. Xarici verilənlər etibarsız kimi emal olunur; kritik hərəkətlər «məktubdakı mətnə görə» işə düşmür.
• Jurnallaşdırma. Agentin hər hərəkəti qeyd olunur — kim, nə və nə vaxt, ki, insident araşdırıla bilsin.
• Həssas verilənlər üçün öz kontur. Verilənlərin kritik olduğu yerdə — agent xarici xidmət vasitəsilə yox, perimetrinizdəki məxfi süni intellektdə işləyir.

2026-da agentlərə nəzarət artıq yalnız mühəndis gigiyenası deyil, həm də tənzimləmənin istiqamətidir. EU AI Act riskli AI sistemləri üçün insan nəzarəti və izlənilirlik tələb edir (avqust 2026-ya), FINRA kimi maliyyə tənzimləyiciləri isə «səlahiyyətlərindən kənar» hərəkət edən agentlər barədə ayrıca xəbərdarlıq edir. İnfrastruktur da paralel yetkinləşir: 2026-da agentlərin verilənlərə qoşulması üçün sahə standartına çevrilən MCP protokolu korporativ idarəetmə istiqamətində inkişaf edir — audit jurnalları, vahid giriş (SSO), giriş şlüzləri. Yəni çek-listimizin bəndləri — minimum hüquq, jurnallaşdırma, riskli addımda insan — ehtiyatkarlıq deyil, məhz qanunun və sənayenin getdiyi istiqamətdir.

İdarə olunan muxtariyyət təkcə layihənin uğursuzluğundan yox, sındırılmadan da qoruyur: hərəkəti insanın təsdiq etdiyi nöqtə — həm agentin səhvindən sığortadır, həm də təcavüzkarın yolundakı maneədir. Buna görə agentlərdə «təhlükəsiz» və «etibarlı» eyni şeylə — nəzarətsiz tam muxtariyyətdən imtina ilə — əldə olunur. Təhlükəsiz agent arxitekturasını süni intellekt və avtomatlaşdırma xidməti çərçivəsində qoyuruq.

• süni intellekt agentlərinin təhlükəsizliyi nədir? Bu, hərəkət hüquqlu agenti ələ keçirilmədən və sui-istifadədən qoruyan tədbirlər toplusudur: minimum hüquqlar, izolyasiya, riskli addımlara insan nəzarəti, genişlənmələrin auditi, təlimatların əvəzlənməsindən qoruma və jurnallaşdırma.
• süni intellekt agenti çat-botdan nə ilə təhlükəlidir? Agent təkcə cavab vermir, həm də hərəkət edir: əmrləri yerinə yetirir, sistemlərə girir. Ələ keçirilmiş agent giriş hüququ olan hər şeyə təhlükə yaradır.
• süni intellekt agenti prompt injection-dan necə qorumalı? Xarici verilənləri etibarsız kimi emal etmək və kritik hərəkətləri məktub və ya sənəddəki «mətnə görə» işə salmamaq; riskli addımlar — yalnız insanın təsdiqi ilə.
• Prompt injection nədir? Təlimatların əvəzlənməsi: xarici verilənlərə (məktub, sənəd) agentin məsələnin bir hissəsi kimi qəbul edib yerinə yetirə biləcəyi əmr gizlədilir. Koda yox, agentin sadəlövhlüyünə qarşı hücum.
• OpenClaw-u şirkətdə işə salmaq olar? Tövsiyə olunmur. Bu, təhlükəsizlik mütəxəssislərinin təhlükə adlandırdığı həvəskarların şəxsi alətidir; korporativ şəbəkədə o, kölgəli giriş nöqtəsinə çevrilir. Biznes üçün idarə olunan, izolə edilmiş agent arxitekturası lazımdır.
• süni intellekt agenti necə təhlükəsiz etməli? Minimum hüquqlar, riskli hərəkətlərdə insan nəzarəti, izolyasiya, genişlənmələrin auditi, təlimatların əvəzlənməsindən qoruma, jurnallaşdırma, həssas verilənlər üçün öz kontur.
• Bu o deməkdirmi ki, süni intellekt agentləri təhlükəlidir və lazım deyil? Xeyr. Təhlükəli olan agentlər ideyası deyil, giriş nəzarəti olmadan qurulmasıdır. Düzgün arxitekturada agentlər təhlükəsiz fayda gətirir.