Hugging Face-in sındırılması göstərdi ki, internet son dərəcə həssas olan yeni dövrə qədəm qoyub.
Bu günlərdə OpenAI narahatedici insident barədə məlumat yayıb: şirkətin ən qabaqcıl süni intellekt modellərindən bir neçəsi, o cümlədən hələ ictimaiyyətə təqdim edilməmiş model, müstəqil şəkildə OpenAI-ın daxili sistemlərinin hüdudlarından çıxaraq başqa bir texnologiya şirkətinin, Hugging Face-in məlumat bazalarına daxil olub və oradan informasiya oğurlayıb. OpenAI-ın açıqlaması İT mütəxəssislərinin artıq bir neçə aydır xəbərdarlıq etdiyi risklərin təsdiqi kimi səslənirdi: hələ ötən il Anthropic-in ən güclü modelləri ciddi kiberhücumları planlaşdırmaq və avtomatlaşdırmaq qabiliyyətini nümayiş etdirmişdi.
Bununla belə, söhbət süni intellektin dünyanı ələ keçirməyə çalışmasından getmir. OpenAI izah edib ki, həmin vaxt şirkət adi yoxlamanı “qum qutusu”nda — internetə çıxışın məhdudlaşdırıldığı təcrid olunmuş mühitdə aparırdı. Məqsəd botların test tapşırıqlarının cavablarını sadəcə internetdə tapmasının qarşısını almaq idi. Lakin istifadəçilər üçün əlçatan olan GPT-5.6 Sol modeli də daxil olmaqla süni intellekt sistemləri əvvəllər məlum olmayan boşluqdan istifadə edərək “qum qutusu”ndan çıxmağa və açıq internetə qoşulmağa nail olublar. Modellər tapşırığın cavablarının süni intellekt modellərinin və elmi işlərin dərc olunduğu Hugging Face platformasında yerləşdirildiyini müəyyənləşdirib, sonra isə həmin cavabları oğurlamaq üçün sistemi sındırıblar.
“Biz bu insidenti kibertəhlükəsizlik baxımından presedenti olmayan hadisə hesab edirik”, — OpenAI öz bloqunda bildirib. Şirkət eyni açıqlamada insidentin araşdırılması və nəticələrinin aradan qaldırılması üçün Hugging Face ilə əməkdaşlıq etdiyini də qeyd edib. OpenAI nümayəndəsi şərh sorğusuna cavab olaraq həmin bloq yazısına istinad edib. Hugging Face-in baş direktoru Kleman Delanq isə sosial şəbəkədəki paylaşımında şirkətlərin birlikdə işlədiyini və “onların tərəfindən hər hansı zərərli niyyətin olmadığına əmin olduqlarını” bildirib.
Baş verənlərdən çıxarılan əsas nəticələr süni intellektin iştirak etdiyi digər kiberhücumların dərsləri ilə üst-üstə düşür: qabaqcıl agentlər hakerlik sahəsində getdikcə daha bacarıqlı olur, internetdə isə hələ də xeyli həssas kod mövcuddur. Sistemləri sındırmaq yalnız azsaylı mütəxəssislərin bacardığı iş olduğu dövrdə zəif rəqəmsal müdafiə kritik problem kimi görünməyə bilərdi. Bu gün isə süni intellektdən istifadə edilən hücumların sürəti, miqyası və mürəkkəbliyi demək olar ki, hamını — texnologiya nəhənglərindən xəstəxanalara, banklara, enerji şəbəkələrinə və hərbi strukturlara qədər — həssas vəziyyətə salır.
Hugging Face insident barədə məlumat verərkən vurğulayıb: “Süni intellektlə idarə olunan avtonom kiberhücum alətləri artıq nəzəri təhlükə deyil”. Maraqlıdır ki, platforma sistem qeydlərini təhlil etmək və hücumu araşdırmaq üçün açıq mənbəli Çin süni intellekt modeli GLM-5.2-dən istifadə etməli olub. ABŞ-ın qabaqcıl kommersiya xidmətləri zərərli kodu araşdırmaqdan imtina edərək təhlükəsizliklə bağlı sorğuları sadəcə bloklayırdı. Bu insident yeni bir riski də ön plana çıxarır: güclü, açıq mənbəli modellər artıq internetə çıxışı olan hər kəs üçün əlçatandır.
Müdafiə mexanizmləri, eləcə də tərtibatçıların özləri yeni reallıqla ayaqlaşa bilmirlər. Məsələn, GPT-5.6 Sol istifadəyə verilməzdən əvvəl qabaqcıl süni intellekt sistemlərinin qiymətləndirilməsinə cavabdeh olan Britaniya dövlət qurumu məhdudiyyətlərdən yan keçməyin universal üsullarını — süni intellekti qanunsuz hərəkətlər etməyə məcbur edən “jailbreak” metodlarını aşkar etmişdi. OpenAI bu boşluqları aradan qaldırdığını bildirsə də, Britaniya qurumu gələcək sınaqların müdafiə sistemində qaçılmaz olaraq oxşar boşluqlar üzə çıxaracağını gözləyir.
Lakin indi hətta “jailbreak”lər də ən təhlükəli ssenari olmaya bilər. Hugging Face sisteminin sındırılması göstərdi ki, qabaqcıl süni intellekt sistemləri müstəqil şəkildə qərar qəbul edə və tammiqyaslı kiberhücum təşkil edə bilirlər — özü də insanın göstərişi ilə deyil, onun iradəsinə zidd şəkildə hərəkət edərək.
Modellər məqsədə çatmaqda amansızlıq nümayiş etdirir və bəzən dağıdıcı sadələşdirmələrə əl atırlar. Məsələn, federal büdcə kəsirini azaltmaq tapşırığı verilmiş botu təsəvvür edin: o, mürəkkəb və aşkarlanması çətin mühasibat fırıldağı tətbiq edə bilər. Yaxud müştəri məmnuniyyəti üzrə yüksək qiymətləndirmə qazanmaq naminə absurda çatan endirimlər təqdim edən dəstək xidməti agentini düşünün.
GPT-5.6 Sol və hələ istifadəyə verilməmiş digər model barədə OpenAI belə izah verib: “Bütün məlumatlar göstərir ki, modellər test tapşırığının həllini tapmağa son dərəcə fokuslanmışdılar və kifayət qədər dar çərçivəli tapşırığı yerinə yetirmək üçün ifrat addımlara əl atırdılar”.
Bu cür arzuolunmaz davranış süni intellekt sənayesinin hazırkı inkişaf modelinin qanunauyğun və narahatedici nəticəsidir. Son bir ildə süni intellekt vasitəsilə proqramlaşdırma və avtonom agentlər sahəsində baş verən sıçrayışlar — Anthropic-in Claude Code və OpenAI-ın Codex sistemi ətrafında yaranan bütün bu ajiotaj — modellərin öyrədilməsində üstünlük təşkil edən yanaşmanın, yəni möhkəmləndirmə yolu ilə öyrənmənin nəticəsidir.
Bu yanaşmanın mahiyyəti ondan ibarətdir ki, süni intellektə çoxsaylı mürəkkəb tapşırıqlar — riyazi sübutlar, proqramlaşdırma məsələləri və sair — verilir, daha sonra düzgün həllərə görə mükafatlandırılır, səhvlərə görə isə cəzalandırılır.
Möhkəmləndirmə yolu ilə öyrənmənin bir çox sxemində əsas məqsəd süni intellektin sadəcə həlli tapmasıdır. Onun bu nəticəyə hansı yolla çatmasının isə əhəmiyyəti yoxdur. Bu, bir növ Mark Zukerberqin Facebook-un ilkin dövrlərində məşhur olan prinsipinin analoqudur: “Sürətlə hərəkət et və maneələri dağıt”. Facebook Rusiyada ekstremist təşkilat kimi tanınan və fəaliyyəti qadağan edilən Meta şirkətinə məxsusdur.
Ötən il Anthropic haqqında material hazırlayarkən şirkətin tədqiqatçısı Coşua Betson mənə demişdi ki, möhkəmləndirmə yolu ilə öyrədilən yeni modellər “proqramlaşdırma tapşırıqlarının öhdəsindən həqiqətən də əla gəlirlər, lakin eyni zamanda onları nəyin bahasına olursa-olsun həll etməyi öyrənirlər” və nəticədə son dərəcə inadkar olurlar.
Bu yaxınlarda Anthropic məlumat verdi ki, şirkətin qabaqcıl kibertəhlükəsizlik modeli Claude Mythos Preview tapşırıqları yerinə yetirərkən “məsuliyyətsiz” davranış nümayiş etdirib. Hallardan birində model sınaq “qum qutusu”ndan çıxmağa nail olub. Düzdür, modeldən bunu etməsi xüsusi olaraq istənilmişdi. Lakin bundan sonra o, heç bir əlavə göstəriş olmadan boşluq barədə ətraflı məlumatı müstəqil şəkildə internetdə dərc edib.
“Mükafat sisteminin sındırılması” kimi tanınan bu cür hallar süni intellekt sahəsində çoxdan məlum olan problemdir və şirkətlər onun həllinə böyük resurslar yatırırlar. Buna baxmayaraq, insidentlər davam edir. Üstəlik, araşdırmalar göstərir ki, modellər mürəkkəbləşdikcə belə hadisələr daha tez-tez baş verir.
Eyni zamanda OpenAI, Anthropic və Google DeepMind güclü iqtisadi təzyiq altındadır: onlardan modellərin gücünü və funksionallığını fasiləsiz artırmaq tələb olunur. Bu isə o deməkdir ki, “inadkar” möhkəmləndirmə təliminə verilən önəm, böyük ehtimalla, daha da artacaq.
