OpenAI-nin baş direktoru Sem Altman şirkətin bu il IPO keçirmək planından imtina etdiyini təsdiqləyib. O bildirib ki, süni intellekt sahəsində təhlükəsizliklə bağlı mövcud vəziyyət nəzərə alınarsa, hazırda ilkin kütləvi səhm təklifi keçirmək məqsədəuyğun olmazdı.
Bu narahatlıqlar fonunda aparıcı süni intellekt şirkətlərinin rəhbərləri nadir hallarda müşahidə olunan ortaq mövqeyə gəliblər: texnologiyanın nəzarətdən çıxmasının qarşısını almaq üçün onun inkişaf tempi müəyyən qədər azaldılmalıdır.
Sürətli fikir birliyi
Şənbə günü Anthropic-in baş direktoru Dario Amodei süni intellektin inkişaf tempinin idarə olunmasının zəruriliyinə dair geniş mövqeyini açıqlayıb. Onun sözlərinə görə, modellər özlərini təkmilləşdirməkdə getdikcə daha bacarıqlı olur və süni intellekt agentlərinin kibertəhlükəsizlik sahəsində göstərdiyi imkanlar texnologiyanın potensial dağıdıcı gücünü nümayiş etdirir.
Amodei hesab edir ki, altı aydan bir ilədək müddətdə belə agentlərdən ibarət böyük sistemlər internet infrastrukturuna ciddi zərər vura və yüz milyardlarla dollar iqtisadi itki yarada bilər.
Bundan cəmi bir saat sonra SpaceX və xAI rəhbəri İlon Mask Amodeinin mövqeyi ilə razılaşaraq “Dario haqlıdır” yazıb.
Təxminən bir saat yarım sonra OpenAI-nin baş direktoru Sem Altman da Anthropic rəhbərinin fikirləri ilə razılaşdığını bildirib. Həmin axşam Google DeepMind-in həmtəsisçisi və rəhbəri Demis Hassabis də yanaşmanın ümumi istiqamətini doğru hesab etdiyini, lakin detalların hələ işlənməli olduğunu qeyd edib.
Fərqli qorxular
Süni intellekt sənayesində kritik mərhələyə yaxınlaşılması ilə bağlı narahatlıq son həftələrdə daha da artıb. Anthropic-dən ayrılan tədqiqatçı Ceykob Kokson aparıcı şirkətlərin “özünü təkmilləşdirən superintellektə doğru sürətlə irəlilədiyini və insanların həyatını riskə atdığını” bildirib.
Onun fikrincə, bu sahədə çalışan mütəxəssislərin bir hissəsi artıq yaxın illərdə texnologiyanın qlobal fəlakətə səbəb ola biləcəyi ehtimalını ciddi qəbul edir.
Bu narahatlıqlar süni intellektə qarşı artan ictimai müqavimətlə də üst-üstə düşür. ABŞ-də insanlar iş yerlərinin avtomatlaşdırılmasından, eləcə də iri məlumat mərkəzlərinin elektrik enerjisi və su istehlakından narahatdırlar. Bir sıra regionlarda belə layihələrə qarşı etirazlar güclənib.
ABŞ Konqresinə aralıq seçkilərə iki aydan az vaxt qaldığı bir dövrdə məsələ artıq siyasi xarakter alıb. Bəzi amerikalı qanunvericilər süni intellekt sektoruna daha sərt müdaxilənin zəruri olduğunu hesab edirlər. Ən radikal təkliflər arasında superintellekt sistemlərinin hazırlanmasına məhdudiyyətlər və ya müvəqqəti qadağalar da yer alır.
Tənzimləmənin getdikcə daha real görünməsi süni intellekt şirkətlərini qaydaların formalaşdırılmasında özlərinin də iştirak etməsinə sövq edə bilər.
Ümumi özünüməhdudlaşdırma
Dario Amodei həm süni intellektin inkişafını davam etdirməyə, həm də şirkətlərə təhlükəsizlik mexanizmlərini gücləndirmək üçün əlavə vaxt verməyə yönəlmiş üçmərhələli plan təklif edib.
Birinci mərhələdə qabaqcıl süni intellekt hazırlayan şirkətlər müstəqil qiymətləndirici təşkilatlara həm hazır modellərə, həm də onların öyrədilməsi prosesinə geniş çıxış verməlidirlər. Bu qurumlar sistemləri audit edə və aşkar olunan təhlükəsizlik problemlərini ictimaiyyətə açıqlaya bilməlidirlər. Anthropic digər şirkətlərin razılığını gözləmədən belə bir yanaşmanı tətbiq etməyə hazır olduğunu bildirir.
İkinci mərhələdə qabaqcıl süni intellekt texnologiyalarının hazırlandığı demokratik ölkələr ümumi təhlükəsizlik standartları müəyyən etməli və modellərin hansı imkan səviyyəsindən sonra xüsusi nəzarətə tabe olacağını razılaşdırmalıdırlar.
Üçüncü mərhələdə isə ABŞ və digər demokratik ölkələr Çin və digər avtoritar rejimlərlə süni intellekt sahəsində müəyyən məhdudiyyətlər və qarşılıqlı yoxlama mexanizmləri barədə razılaşmağa çalışmalıdırlar.
Bununla belə, süni intellekt şirkətlərinin niyyətlərinə hamı inanmır. Bəzi tənqidçilər hesab edirlər ki, OpenAI və Anthropic əvvəlcə öz fəaliyyətlərini könüllü şəkildə məhdudlaşdırmalı və eyni zamanda qanunvericiliyə öz maraqları istiqamətində təsir göstərməyə çalışmamalıdırlar.
Digər mühüm əks-arqument isə Çinlə bağlıdır. Çin süni intellektin inkişafını məhdudlaşdırmaq məsələsinə ABŞ və Avropadakı kimi yanaşmır. Əgər Amerika şirkətləri inkişaf tempini birtərəfli şəkildə azaltsalar, Çin şirkətlərinin onları qabaqlaması və mühüm texnoloji üstünlük əldə etməsi riski yaranır.
Amodei də Çinlə razılaşmanın çətin olacağını qəbul edir. Onun təklif etdiyi yanaşma müəyyən mənada Soyuq müharibə dövründə silahlanmanın məhdudlaşdırılması üzrə aparılan danışıqları xatırladır: əsas məqsəd qarşılıqlı yoxlama mexanizmləri yaratmaq və heç bir tərəfin təhlükəli texnoloji sıçrayış əldə etməsinə imkan verməməkdir.
