Anthropic çərşənbə axşamı açıqlayıb ki, yeni texnologiyasını hələlik geniş ictimaiyyətə təqdim etməyəcək. Bunun əvəzinə şirkət modelin kibertəhlükələrin qarşısını almaqda necə istifadə oluna biləcəyini öyrənmək üçün 40 şirkətlə əməkdaşlıq edəcək.
Qeyd edək ki, Mythos adlı süni intellekt modeli, təhlükəsizlik tədbirlərini aşmaq və gözlənilməz şəkildə e-poçt göndərmək qabiliyyətinə görə ciddi narahatlıq doğurub.
Daxili testlər zamanı modelin daha erkən versiyalarından biri virtual “sandbox” mühitindən çıxmağa nail olub və tədqiqatçılarla əlaqə saxlayıb. Nəticədə, tədqiqatçı nahar edərkən — konkret olaraq sendviç yeyən zaman — gözlənilmədən elektron məktub alıb.
Bu hadisə modelin nəzarətsiz və riskli davranış potensialını açıq şəkildə göstərib və onun qabaqcıl imkanları ilə bağlı təhlükələri gündəmə gətirib. Məhz bu səbəbdən Anthropic modeli açıq şəkildə istifadəyə vermək qərarını dayandırıb və ona çıxışı yalnız seçilmiş tərəfdaşlarla məhdudlaşdırıb.
Qeyd olunur ki, modelin bu davranışı nəzarətli test mühitində baş verib və o, müstəqil qərarvermə və ya özünü qoruma instinkti nümayiş etdirməyib.
Son vaxtlar Pentaqonla texnologiyalarının istifadəsi ilə bağlı mübahisə yaşayan süni intellekt şirkəti Anthropic hesab edir ki, yaratdığı yeni model açıq şəkildə buraxılmaq üçün həddindən artıq güclüdür.
Claude Mythos Preview adlanan model Apple, Amazon və Microsoft daxil olmaqla 40-dan çox texnologiya şirkətindən ibarət konsorsiuma təqdim ediləcək. Bu şirkətlər modeli kritik proqram təminatında zəiflikləri aşkar etmək və aradan qaldırmaq üçün istifadə edəcəklər.
Şirkət texnologiyanın geniş yayımını planlaşdırmır, lakin modelin konkret olaraq proqram təminatındakı zəifliklərin aşkar olunması sahəsində imkanlarını nümayiş etdirir. Məqsəd isə Anthropic-in fikrincə, süni intellektlə bağlı daha təhlükəli bir dövrün başlaya biləcəyi barədə xəbərdarlıq etməkdir.
Anthropic-in baş elmi əməkdaşı Jared Kaplan bildirib: “Məqsəd həm məlumatlılığı artırmaq, həm də infrastrukturun və həm açıq mənbəli, həm də kommersiya kodunun təhlükəsizliyini təmin etmək üçün dürüst iştirakçılara üstünlük verməkdir.”
Project Glasswing adlanan koalisiya Anthropic-in bəzi rəqiblərini — o cümlədən Google-u, həmçinin Cisco və Broadcom kimi avadanlıq təchizatçılarını və Linux Foundation kimi açıq mənbəli proqram təminatını dəstəkləyən təşkilatları bir araya gətirəcək. Anthropic bu təşəbbüs üçün Claude istifadəsi üzrə 100 milyon dollara qədər kredit ayıracaq.
Anthropic-in yeni modelləri təhlükəli imkanlar baxımından test edən komandanın rəhbəri Loqan Qrem yeni modeli “sənaye üçün dönüş nöqtəsi ola biləcək başlanğıc nöqtəsi” adlandırıb.
Anthropic süni intellekt ekosistemində qeyri-adi mövqedədir: şirkət həm getdikcə daha güclü sistemlər yaradır və onlardan milyardlarla dollar qazanır, həm də bu texnologiyanın yaratdığı risklərə diqqət çəkir. Bu il Pentaqon şirkəti təchizat zənciri üçün risk kimi qiymətləndirmişdi, lakin sonradan federal hakim bu qərarın icrasını dayandırıb.
Şirkət model haqqında çox az texniki detal açıqlayıb. İnkişaf mərhələsində “Capybara” kod adı ilə tanınan model haqqında bəzi məlumatlar sızdıqdan sonra Anthropic onun “keyfiyyət sıçrayışı” olduğunu etiraf edib — xüsusilə proqramlaşdırma və kibertəhlükəsizlik sahəsində.
Modelin geniş yayımdan saxlanılması və yalnız tərəfdaşlara təqdim olunması qərarı yeni deyil. 2019-cu ildə OpenAI GPT-2 modelini dərhal tam şəkildə buraxmamışdı, çünki onun mətn generasiya imkanlarının dezinformasiya yayılması üçün istifadə oluna biləcəyindən ehtiyat edilirdi.
Lakin bu dəfə Anthropic daha ciddi və təcili xəbərdarlıq edir. Şirkət rəhbərləri bildirir ki, Claude Mythos Preview artıq kibertəhlükəsizlik sahəsində müstəqil araşdırmalar apara bilir, o cümlədən “sıfır gün” zəifliklərini — yəni proqram təminatının öz yaradıcılarına belə məlum olmayan boşluqları — aşkar edib istismar edə bilir. Bu proseslər sadə sorğular vasitəsilə belə işə salına bilər.
Şirkətin sözlərinə görə, model artıq bütün əsas əməliyyat sistemləri və brauzerlər daxil olmaqla populyar proqram təminatlarında “minlərlə” səhv və zəiflik aşkar edib. Onlardan biri OpenBSD əməliyyat sistemində 27 il mövcud olmuş bir boşluqdur. Digəri isə geniş istifadə olunan video proqram təminatında olan və milyonlarla avtomatlaşdırılmış testdən keçsə də aşkar edilməmiş problemdir.
Loqan Qrem deyir: “Model təkcə yaxşı məlum olan zəiflikləri tapmır, həm də onilliklər boyu aparılmış araşdırmaların və bütün avtomatlaşdırılmış alətlərin qaçırdığı mürəkkəb boşluqları aşkar edir və hətta onların istismarı üçün üsullar yaradır.”
Anthropic həmçinin bildirib ki, 2026-cı il üçün proqnozlaşdırılan illik gəliri üç dəfədən çox artaraq 9 milyard dollardan 30 milyard dollardan yuxarı səviyyəyə çatıb. Bu artım əsasən Claude-un proqramlaşdırma aləti kimi populyarlığı ilə bağlıdır.
Şirkət Claude-un uzunmüddətli kodlaşdırma tapşırıqlarını effektiv yerinə yetirməsinə fokuslanıb. Bu isə onu həm peşəkar proqramçılar, həm də “vibe coding” adlandırılan yanaşmanı istifadə edənlər üçün cəlbedici edir. Lakin keyfiyyətli kod yazmaq qabiliyyəti eyni zamanda kodda səhvləri və zəiflikləri aşkar etmə qabiliyyətini də gücləndirir.
Kibertəhlükəsizlik sənayesi uzun illərdir ki, daha güclü süni intellekt modellərinin kritik texnoloji infrastruktura təsirinə hazırlaşır. Əvvəllər ən ciddi zəiflikləri yalnız təcrübəli mütəxəssislər tapa bilirdi. İndi isə narahatlıq var ki, süni intellekt bunu müstəqil şəkildə edə bilər.
Palo Alto Networks şirkətinin baş direktoru Nikiş Arora yazır: “Təsəvvür edin ki, saysız-hesabsız agentlər sizin texnoloji infrastrukturunuzdakı hər zəifliyi sistemli şəkildə aşkar edir.”
Qrem qeyd edir ki, əsas suallardan biri budur: bu cür modellərin yayılması nəticəsində dünyadakı kritik proqram təminatının böyük hissəsini yenidən yazmaq lazım olacaqmı?
Onun sözlərinə görə, dünyada çoxlu kritik sistemlər köhnə kod üzərində işləyir və əvvəllər onları qoruyan əsas faktor hücumların yüksək insan resursu tələb etməsi idi. İndi isə bu modelin dəyişib-dəyişmədiyi sual altındadır.
Şirkətlərin hələ buraxılmamış modellərlə bağlı iddialarına ehtiyatla yanaşmaq lazımdır. Lakin bu halda Project Glasswing çərçivəsində modelə çıxış əldə edən kibertəhlükəsizlik mütəxəssisləri onu real risk kimi qiymətləndirirlər.
CrowdStrike şirkətinin texniki direktoru Elia Zaytsev bildirir: “Bu model müdafiəçilər üçün böyük miqyasda nələrin mümkün olduğunu göstərir, lakin hücum edənlər də eyni imkanlardan istifadə etməyə çalışacaqlar. Əvvəllər aylar çəkən proseslər indi dəqiqələr ərzində baş verir.”
Project Glasswing adı şəffaf qanadlı kəpənəkdən götürülüb. Kaplanın sözlərinə görə, bu kəpənək gizlənmək üçün şəffaf qanadlardan istifadə edir. Eyni şəkildə, bir çox kritik proqram təminatında illərlə gizli qalan zəifliklər mövcuddur.
Kaplan vurğulayır ki, modelin kibertəhlükəsizlik sahəsindəki qabiliyyətləri xüsusi təlim nəticəsi deyil — bu, sadəcə modelin ümumi gücünün bir hissəsidir. O hesab edir ki, bu cür imkanlar tezliklə digər modellərdə də ortaya çıxacaq və nəticədə hakerlərlə müdafiə sistemləri arasında “silahlanma yarışı” daha da güclənəcək.
“Bir şüar var: bu, gələcəkdə istifadə edəcəyimiz ən zəif modeldir,” — deyə o əlavə edir.
