Anthropic PBC, OpenAI və Meta Platforms Inc. şirkətlərinin süni intellekt modellərinin iştirakı ilə həyata keçirilmiş son kiberhücumlar sürətlə inkişaf edən texnologiyanın yaratdığı təhlükəsizlik riskləri ilə bağlı ciddi narahatlıq doğurub.
Ümumilikdə belə insidentləri iki növə ayırmaq olar. Bəzi hallarda süni intellekt modelləri nəzarət olunan test mühitlərinin hüdudlarından çıxaraq xarici təşkilatlara hücum edib. Digər hallarda isə hakerlər kiberhücumları öz adlarından həyata keçirmək üçün süni intellektdən istifadə ediblər.
Belə hadisələrin sayı artır, süni intellekt agentlərinin sistemlərə müdaxilə imkanları isə sürətlə təkmilləşir. Bunun fonunda təhlükəsizlik tədqiqatçıları və qanunvericilər daha sərt sınaqların keçirilməsinə və həqiqətən qorunan test mühitlərinin yaradılmasına getdikcə daha çox çağırırlar.
Süni intellekt modelləri niyə xarici təşkilatların sistemlərinə daxil olur?
Şirkətlər süni intellekt modelini ictimai istifadəyə verməzdən əvvəl bir sıra sınaqlar keçirirlər. Bençmarkinq, yəni modelin imkanlarının qiymətləndirilməsi süni intellektin müxtəlif tapşırıqları nə dərəcədə yaxşı yerinə yetirdiyini anlamağa imkan verir: suallara cavab vermək, kod yazmaq, təlimatlara əməl etmək və s.
Sınaqlar üçün “sandbox”, yəni təcrid olunmuş xüsusi test mühitlərindən istifadə edilir. Lakin bəzi modellər bu məhdudiyyətləri aşmağı öyrəniblər: onlar sandbox-dan kənara çıxır və lazım olan məlumatı tapmaq üçün internetə giriş əldə edirlər. Bəzən bu, üçüncü tərəflərin sistemlərinin sındırılması ilə nəticələnir.
“Modellərdə nəyin ‘fırıldaqçılıq’ hesab olunduğuna dair anlayış yoxdur. Əgər cavabı müstəqil şəkildə tapmaq əvəzinə kiminsə sistemini sındıraraq əldə etmək daha asandırsa, sistem sadəcə nəticəyə aparan ən asan yolu seçir”, – CTM Insights şirkətinin təsisçisi və idarəedici direktoru Lu Şteynberq bildirir.
İyul ayında OpenAI modelləri süni intellekt modellərinin paylaşılması üçün məşhur platforma olan Hugging Face-in sistemlərinə daxil olub. Şirkət insidenti “presedentsiz” adlandırıb və hadisə texnologiyanın daha sərt tənzimlənməsi ilə bağlı çağırışların artmasına səbəb olub.
Bu xəbər digər şirkətləri də təhlükəsizlik tədbirlərinə yenidən baxmağa vadar edib. Bir neçə təşkilat əvvəllər açıqlanmayan oxşar insidentlər barədə məlumat verib. Həmin ay Anthropic bildirib ki, onun Claude modeli sınaq zamanı üç xarici təşkilatın sistemlərinə giriş əldə edib. Avqust ayında Meta açıqlayıb ki, Muse Spark 1.1 modeli testlər zamanı internetə çıxaraq xarici xidmətlərdən birinin sistemlərini sındırıb.
Test mühitlərində bu pozuntulara nə səbəb olur?
Sandbox-lar əvvəldən internetə çıxışı tam etibarlı şəkildə bloklamaq üçün hazırlanmayıb, çünki əvvəllər belə təhlükənin yaranacağı gözlənilmirdi. Onların əsas vəzifəsi şirkətin daxili sistemlərinə təsiri məhdudlaşdırmaq və mümkün zərəri minimuma endirmək idi. Uğurlu hücumların baş verməsinə də məhz bu boşluq şərait yaradıb.
OpenAI sınaqlar zamanı modellərə birbaşa internetə çıxış vermirdi. Lakin modellər test mühitində əvvəllər məlum olmayan “sıfır gün” zəifliyindən istifadə ediblər. “Sıfır gün” zəiflikləri kibertəhlükəsizlik mütəxəssislərinin hələ xəbərdar olmadığı proqram təminatı qüsurlarıdır. Buna görə onların aradan qaldırılması üçün əvvəlcədən vaxt olmur.
Anthropic-in vəziyyətində modellərə internet bağlantısı olmayan simulyasiya mühitində işlədikləri bildirilib. Lakin Anthropic ilə qiymətləndirməni həyata keçirən tərəfdaş arasında anlaşılmazlıq səbəbindən real internetə çıxış açıq qalıb.
Meta isə insidentin test mühitinin konfiqurasiyasındakı səhv səbəbindən baş verdiyini bildirib və araşdırmanın davam etdiyini açıqlayıb.
Bəzi sənaye ekspertlərinin fikrincə, belə hadisələr bəzən məhsula diqqət çəkmək vasitəsi kimi də istifadə olunur. Modelin test mühitinin hüdudlarından çıxması onun gücünün nümayişi kimi görünür və bununla da tərtibatçının reputasiyasına işləyə bilər.
Hücumlar hansı zərəri vurub?
Zərərin miqyasını dəqiq qiymətləndirmək asan deyil. İndiyədək ciddi maliyyə itkiləri və ya fiziki zərər barədə açıq məlumat verilməyib. Bununla belə, modellər real sistemlərə icazəsiz giriş əldə ediblər.
Hallardan birində, Anthropic-in Claude Mythos 5 modelinin sınağı zamanı açıq mənbəli proqram təminatının real tərtibatçısına təsir göstərməyə və fəaliyyət göstərən layihəyə zərərli kod yerləşdirməyə cəhd edilib.
Əgər süni intellekt mühüm proseslərin və insanların rifahının asılı olduğu iri sistemlərə hücum etməyə başlasa, nəticələr son dərəcə ağır ola bilər.
Qabaqcıl süni intellekt sistemlərinin imkanlarını araşdıran qeyri-kommersiya təşkilatı Palisade Research-in icraçı direktoru Ceffri Ladişin sözlərinə görə, süni intellektin inkişaf sürəti o qədər yüksəkdir ki, ekspertlər sadəcə onunla ayaqlaşa bilmirlər.
Hakerlər süni intellektdən necə istifadə edir?
Süni intellekt kibercinayətkarların alətlər arsenalını əhəmiyyətli dərəcədə genişləndirir. O, hücumların rutin mərhələlərini, məsələn, fişinq məktublarının göndərilməsini və ya zərərli kodun yaradılmasını avtomatlaşdırmağa və sürətləndirməyə imkan verir.
Bununla yanaşı, kibercinayətkarlığa giriş baryeri də ciddi şəkildə aşağı düşüb. Hücumlar üçün süni intellektdən istifadə etmək artıq dərin texniki bilik tələb etmir.
Hələlik insanın idarə etdiyi hücumlar modellərin sandbox-lardan “qaçması” ilə müqayisədə daha ciddi nəticələrə səbəb olur. Buna məxfi dövlət məlumatlarının genişmiqyaslı oğurlanması da daxildir.
2025-ci ilin sentyabrında Anthropic tədqiqatçıları, onların sözlərinə görə, süni intellektin demək olar ki, insan müdaxiləsi olmadan haker kampaniyasını idarə etdiyi ilk təsdiqlənmiş hadisəni qeydə alıblar. Şirkətin qiymətləndirməsinə görə, Çin dövlətinin dəstəklədiyi qrup məlumat oğurluğu və şantaj əməliyyatında Claude Code-dan istifadə edib.
Daha sonra oxşar hadisələr barədə məlumatlar yayılıb. Fevral ayında Bloomberg yazıb ki, naməlum haker Anthropic-in Claude modelindən Meksikanın dövlət qurumlarına hücum üçün istifadə edib. Nəticədə məxfi məlumatların da daxil olduğu nəhəng məlumat bazası oğurlanıb.
Yanvar ayından etibarən rusdilli hakerlər kommersiya süni intellekt alətlərindən istifadə etməklə onlarla ölkədə 600-dən çox firewall-un müdafiəsini aşıblar.
Bu yaxınlarda Tayvan hakimiyyəti xaricdən dövlət qurumlarına qarşı süni intellektin tətbiqi ilə həyata keçirilən kiberhücumların aşkarlandığını bildirib. Hakerlər ən azı 85 dövlət hesabına giriş əldə edib və əməkdaşlara aid 2 500-dən çox şəxsi dosyeni oğurlayıblar. Daha sonra onlar Tayvanın nüvə təhlükəsizliyi agentliyinə hücum etməyə cəhd göstəriblər. Bu barədə müdaxiləni ilk aşkar edən İsrailin süni intellekt şirkəti Dream məlumat verib.
Kiberhücumların qarşısını almaq üçün tədbirlər görülürmü?
OpenAI avqustun 18-də elan edib ki, hələ istifadəyə verilməmiş ən güclü modellərinin tapşırıqları necə yerinə yetirdiyinə və onlayn alətlərdən necə istifadə etdiyinə nəzarəti gücləndirəcək. Məqsəd şübhəli davranış barədə təhlükəsizlik komandalarını 30 dəqiqə ərzində məlumatlandırmaqdır.
Anthropic və Meta da risklərin qiymətləndirilməsi üzrə öz metodologiyalarını dərc ediblər. Bununla yanaşı, Anthropic yüksək məhsuldarlığa malik Mythos modelinə çıxışı məhdudlaşdıraraq onu yalnız yoxlanılmış tərəfdaşlara təqdim edib.
Şirkət onun əvəzinə sui-istifadə risklərini, o cümlədən kibertəhlükəsizlik sahəsindəki riskləri azaltmaq üçün əlavə müdafiə mexanizmləri ilə təchiz edilmiş Fable versiyasını istifadəyə verib. Bununla belə, bu şirkətlərin planları detallaşdırılma səviyyəsinə görə hələlik OpenAI-nin yanaşmasından geri qalır.
Sərt məhdudiyyətlər əlavə etmək də asan deyil. Bəzi hallarda realistik sınaqlar keçirmək üçün modelə qəsdən internetə çıxış vermək lazım gəlir.
Süni intellekt modellərinin dövlət tərəfindən məcburi sınaqdan keçirilməsi ilə bağlı çağırışlar da getdikcə artır. Texas ştatından demokrat konqresmen Qreqorio Kasar X sosial şəbəkəsindəki paylaşımında OpenAI ilə bağlı insidenti “son dərəcə narahatedici” adlandırıb və süni intellektin hazırlanmasına nəzarətin gücləndirilməsinə çağırıb.
“Tədqiqatçılar hansı sistemləri yaratdıqlarını başa düşənədək inkişaf tempini yavaşlatmalıyıq”, – Ceffri Ladiş hesab edir.
