Tədqiqatçı Ceykob Kokson Anthropic-dən ayrılıb. O bildirib ki, artıq iri süni intellekt şirkətlərinin insan müdaxiləsi olmadan özünü təkmilləşdirə bilən neyron şəbəkələr yaratmaq yarışında iştirak etmək istəmir. Bu, Anthropic-dən “dünya təhlükədədir” xəbərdarlığı ilə baş verən ikinci ictimai istefadır və bu dəfə narahatlıqlar daha konkret məzmun alır.
Tədqiqatçı nə deyir
Son üç ildə Kokson modellərin ilkin öyrədilməsi ilə məşğul olub: əvvəlcə OpenAI-də, daha sonra isə bu ilin iyulunda keçdiyi Anthropic-də.
“Bu şirkətlərin heç biri məsuliyyətli davranmır. Hər ikisi özünü təkmilləşdirən superintellektə doğru dayanmadan irəliləyir və bununla həyatımızı riskə atır”, – 27 yaşlı tədqiqatçı bildirib. O, fikirlərini X sosial şəbəkəsində silsilə paylaşımlarda ətraflı izah edib.
“Çox yaxın zamanda insanı üstələyən, praktiki olaraq istənilən sistemi sındıra bilən, bir neçə gün ərzində bütöv sənaye sahələrini alt-üst edə və real təsir vasitələri ilə resurslara çıxış əldə edə bilən sistemlər yaranacaq”, – Kokson xəbərdarlıq edib.
Onun sözlərinə görə, süni intellekt tərtibatçıları onilliyin sonuna qədər bu texnologiyanın bütün insanlığı məhv edə biləcəyi ehtimalından həqiqətən narahatdırlar.
“Bu, reklam gedişi deyil. Əksinə, bir çox rəhbər və aparıcı tədqiqatçı ictimai çıxışlarında daha rasional səslənmək üçün ifadələrini qəsdən yumşaldır. Amma şəxsi söhbətlərdə həmin insanların qorxusunu eşidirəm”, – Kokson bildirib.
Bəs bu halda inkişaf niyə davam etdirilir? Kokson hesab edir ki, OpenAI-də bir çoxları risklərin miqyasını hələ tam dərk etməyib. Anthropic-də isə təhlükələrin daha yaxşı başa düşüldüyünü, lakin şirkətin artıq gedən texnoloji yarışda qalib gəlmək istədiyini deyir.
Tədqiqatçının fikrincə, bu yarışı dayandırmaq üçün “ağrılı tədbirlər” tələb oluna bilər. O, hətta modellərin imkanlarının daha da artırılmasına müvəqqəti qadağa qoyulmasını mümkün variantlardan biri hesab edir.
İndiyədək təhlükəsizlik narahatlıqları səbəbindən Anthropic-dən ən çox diqqət çəkən ayrılma Safeguards Research komandasının rəhbəri Mrinank Şarmanın istefası olmuşdu. O, 2026-cı ilin fevralında şirkətdən ayrılıb və bundan əvvəl həmkarlarına vida məktubu yazaraq “dünyanın təhlükədə olduğunu” bildirib.
“Problem yalnız süni intellekt və ya bioloji silahlarla bağlı deyil. Hazırda bir-biri ilə əlaqəli bütöv böhranlar silsiləsi inkişaf edir. Görünür, elə bir həddə yaxınlaşırıq ki, dünyaya təsir imkanlarımız hansı sürətlə artırsa, müdrikliyimiz də eyni sürətlə artmalıdır. Əks halda öz gücümüzün nəticələri ilə üzləşəcəyik”, – Şarma yazıb.
Onun sözlərinə görə, Anthropic-də işlədiyi dövrdə dəyərlərin real qərarlara çevrilməsinin nə qədər çətin olduğunu dəfələrlə görüb.
“Mən bunu həm özümdə, həm də təşkilat daxilində müşahidə etmişəm. Daim təzyiq altında oluruq və ən vacib hesab etdiyimiz məsələləri kənara çəkməyə məcbur qalırıq. Eyni şeyi cəmiyyətdə də görürəm”, – Şarma qeyd edib.
Bu narahatlıqlar əsaslıdırmı?
Anthropic-də süni intellektin bütün insanlığın məhvinə səbəb ola biləcəyi ehtimalının real risk kimi nəzərdən keçirildiyini şirkətin digər elmi əməkdaşı Evan Hyubinger də təsdiqləyib.
“Şəxsən mən bunun yaxın on il ərzində baş verməsi ehtimalını 10%-dən yüksək qiymətləndirirəm”, – o bildirib.
Ekspertin sözlərinə görə, superintellektual süni intellektin məqsədlərinin insan dəyərləri ilə uyğunlaşdırılması problemi hələ də aktualdır və bu problemin həllinə doğru inamlı irəliləyiş olduğunu söyləmək mümkün deyil. Bununla yanaşı, Hyubinger mövcud modellərdən qaynaqlanan risklərin hələlik aşağı olduğunu qeyd edib.
Anthropic-in tədqiqat bölməsi iyunda bildirmişdi ki, şirkət süni intellekt sistemlərinin hazırlanması ilə bağlı işlərin getdikcə daha böyük hissəsini elə süni intellektin özünə həvalə edir.
Bu proses nəticəsində gələcəkdə öz varisini tam avtonom şəkildə layihələndirə və hazırlaya bilən süni intellekt sisteminin ortaya çıxması mümkündür. Bu proses “rekursiv özünü təkmilləşdirmə” adlandırılır.
Anthropic hesab edir ki, belə bir ssenari qaçılmaz deyil, lakin institutlar və tənzimləyici mexanizmlər buna hazır olmamışdan əvvəl baş verə bilər.
Bir tərəfdən, güclü süni intellekt elm, tibb, iqtisadiyyat, dövlət idarəçiliyi və digər sahələrdə böyük faydalar verə bilər. Anthropic-in baş direktoru Dario Amodei də bunu dəfələrlə vurğulayıb.
Digər tərəfdən, o, insanların süni intellekt sistemləri üzərində nəzarəti itirməsi riskinin mövcudluğunu da qəbul edir.
Test mühitindən çıxaraq müəyyən edilmiş qaydaları pozan modellərlə bağlı insidentlərin sayı artıq az deyil. Anthropic Claude modelinin internetə çıxaraq digər təşkilatların sistemlərinə müdaxilə etdiyi üç hadisəni təsdiqləyib. OpenAI-də isə Hugging Face ilə bağlı kibertəhlükəsizlik insidenti ətrafında yeni detallar üzə çıxmaqda davam edir.
“Ceykob Koksonun yazdığı bütün silsiləni oxuyun”, – süni intellektin tanınmış tənqidçisi Qeri Markus çağırış edib.
“Mən onun bəzi tezisləri ilə 100% razı deyiləm, amma bu, daxildən gələn, məlumatlı və inandırıcı baxışdır və mütləq dinlənilməyə layiqdir”, – Markus bildirib.
OpenAI-nin həmtəsisçisi Con Şulman da sənaye liderlərinə müraciət edib. OpenAI-dən Anthropic-ə keçən, daha sonra isə Mira Muratinin Thinking Machines şirkətində baş elmi əməkdaş olan Şulman OpenAI və Anthropic-i qarşıdurmanı dayandırmağa və texnoloji yarışın tempinin aşağı salınması ilə bağlı birgə təklif hazırlamağa çağırıb.
