Süni intellekt xəstəliklərin diaqnostikasına kömək edir, böyük həcmdə məlumatları təhlil edir və mürəkkəb prosesləri avtomatlaşdırır. Lakin bu sistemlərin imkanları artdıqca ekspertlər onların yalnız faydalarını deyil, risklərini də daha çox müzakirə edirlər. Söhbət fırıldaqçılıq və dezinformasiyadan tutmuş, son dərəcə güclü süni intellekt üzərində insan nəzarətinin hipotetik şəkildə itirilməsinədək müxtəlif təhlükələrdən gedir.
Süni intellekt sürətlə tibb, təhsil, sənaye, maliyyə, dövlət idarəçiliyi və gündəlik həyata daxil olur. O, saniyələr ərzində məlumatları emal edə, mətn və şəkillər yarada, proqram kodu yaza və mürəkkəb elmi problemlərin həllinə kömək edə bilir.
Eyni zamanda texnologiyanın inkişafı tədqiqatçıların bir hissəsində narahatlıq yaradır. Onları yalnız artıq mövcud olan problemlər — dipfeyklər, kiberhücumlar, fırıldaqçılıq və ya işçilərin əvəzlənməsi deyil, həm də insan qabiliyyətlərinə bir çox sahədə çata və ya onları üstələyə biləcək daha avtonom sistemlərin yaranması ehtimalı düşündürür.
Maşının insanlara nifrət etməsi vacib deyil
Ən çox müzakirə olunan ssenarilərdən biri məqsədlərin uyğunlaşdırılması problemi ilə bağlıdır. Tərtibatçılar sistem qarşısında müəyyən tapşırıq qoya bilərlər, lakin süni intellekt həmin tapşırığı insanın nəzərdə tutduğundan fərqli şəkildə anlaya və ya yerinə yetirə bilər.
Təhlükənin yaranması üçün maşının şüura, emosiyalara malik olması və ya insanlara düşmən münasibət bəsləməsi vacib deyil. Güclü sistemin səhv formalaşdırılmış məqsədə ardıcıl şəkildə çatmağa çalışması və eyni zamanda mühüm resurslara və ya infrastruktura çıxış əldə etməsi kifayətdir.
Məsələn, sistemdən müəyyən göstəricini maksimum dərəcədə artırmaq tələb olunsa, tapşırıqda etik, hüquqi və sosial məhdudiyyətlər göstərilmədiyi halda arzuolunmaz nəticələr yarana bilər. Sistem nə qədər müstəqil və səlahiyyətləri nə qədər geniş olsa, onun əmri hansı üsulla yerinə yetirəcəyini əvvəlcədən nəzərə almaq bir o qədər çətinləşir.
Əsas qorxu nəzarətin itirilməsidir
Bəzi mütəxəssislər süni intellektin imkanlarının yoxlama və tənzimləmə metodlarından daha sürətlə inkişaf edəcəyindən ehtiyatlanırlar. Tərtibatçılar qərarlarını tam başa düşmək, proqnozlaşdırmaq və ya vaxtında korrektə etmək mümkün olmayan sistemlə qarşılaşa bilərlər.
Xüsusi narahatlıq yaradan məqamlardan biri qabaqcıl süni intellektin öz təkmilləşdirilməsində iştirak edə bilməsi ehtimalıdır. Ən radikal ssenaridə sistemin hər yeni versiyası özündən daha effektiv növbəti versiyanı yarada və nəticədə texnoloji inkişaf kəskin sürətlənə bilər.
Belə bir ssenarinin praktikada mümkün olub-olmadığı hələ məlum deyil. Bununla belə, təhlükəsizlik tədbirlərinin gücləndirilməsinin tərəfdarları hesab edirlər ki, son dərəcə güclü sistemlər yaranmamışdan əvvəl potensial problemlərə hazırlaşmaq lazımdır. Çünki nəzarət bir dəfə itirildikdən sonra vəziyyəti düzəltmək artıq mümkün olmaya bilər.
Real təhlükələr artıq mövcuddur
Bəşəriyyətə ciddi zərər vurmaq üçün superintellektin yaranmasını gözləmək lazım deyil. Müasir modellər artıq inandırıcı saxta şəkillər, videolar və səs yazıları yaratmağa, həmçinin manipulyativ mesajları kütləvi şəkildə istehsal etməyə kömək edə bilir.
Belə alətlər fırıldaqçılıq, siyasi təbliğat, seçkilərə müdaxilə və mediaya etimadın sarsıdılması üçün istifadə oluna bilər. Həqiqi materialı süni yaradılmış materialdan ayırmaq çətinləşdikcə insanlar hətta real sübutlara da inanmaqdan imtina edə bilərlər.
Kibertəhlükəsizlik sahəsində süni intellekt zəifliklərin tapılmasını, fişinq məktublarının hazırlanmasını və hücumların həyata keçirilməsini sürətləndirə bilər. Eyni texnologiyalar informasiya sistemlərinin müdafiəsinə də kömək edir. Buna görə nəticə əsasən ondan kimin və hansı məqsədlə istifadə etməsindən asılıdır.
Silah və insan iştirakı olmadan qərarlar
Süni intellektin hərbi sahədə istifadəsi də ayrıca narahatlıq yaradır. Avtomatlaşdırılmış sistemlər artıq kəşfiyyat, görüntülərin təhlili, marşrutların seçilməsi və potensial hədəflərin müəyyənləşdirilməsi üçün istifadə olunur.
Əsas etik sual budur ki, insan həyatından asılı olan qərarı alqoritmə həvalə etmək olarmı. Tanıma səhvi, yanlış məlumat və ya vəziyyətin səhv şərhi mülki şəxslərin ölümünə və münaqişənin istəmədən eskalasiyasına səbəb ola bilər.
Bu səbəbdən ekspertlər öldürücü gücdən istifadə ilə bağlı son qərarın insanın əlində qalmalı olduğunu vurğulayırlar.
Digər risk hakimiyyətin cəmləşməsidir
Süni intellekt yalnız öz səhvləri və ya cinayətkarların fəaliyyəti səbəbindən təhlükə yaratmır. Güclü sistemlər məhdud sayda şirkətin, dövlətin və ya fərdin nəzarətində cəmləşə bilər.
Texnologiyaya nəzarət informasiya məkanına təsir göstərməyə, vətəndaşları izləməyə, biliyə çıxışı idarə etməyə və milyonlarla insanın həyatına təsir edən qərarlar qəbul etməyə imkan verir. Şəffaflıq olmadıqda cəmiyyət alqoritmin niyə kiməsə kredit, iş, sığorta və ya sosial yardım verməkdən imtina etdiyini belə bilməyə bilər.
Məhz buna görə mütəxəssislər müstəqil auditin, şəxsi məlumatların qorunmasının və alqoritmlərin iştirakı ilə qəbul olunan qərarlardan şikayət vermək imkanının vacibliyini vurğulayırlar.
Süni intellekt bəşəriyyəti məhv edə bilərmi?
Süni intellekt səbəbindən bəşəriyyətin tamamilə yox olması ehtimalını müəyyən etmək mümkün deyil. Belə ssenari üçün tələb olunan avtonomluq səviyyəsinə və real dünya üzərində nəzarət imkanlarına malik sistemlər hazırda mövcud deyil.
Bəzi tədqiqatçılar bəşəriyyətin məhv olması barədə müzakirələri həddindən artıq spekulyativ hesab edir və diqqəti artıq müşahidə olunan problemlərə — ayrı-seçkiliyə, nəzarətə, dezinformasiyaya və iqtisadi bərabərsizliyə yönəltməyə çağırırlar.
Digərləri isə hesab edir ki, ehtimalı çox aşağı olsa belə, potensial nəticələri qlobal və geri dönməz olan təhlükəni görməzdən gəlmək olmaz. Onların fikrincə, təhlükəsizlik tədqiqatları daha güclü modellərin hazırlanması ilə paralel inkişaf etməlidir.
Riskləri necə azaltmaq olar?
Mütəxəssislər yeni sistemlərin geniş istifadəyə verilməzdən əvvəl sınaqdan keçirilməsini, süni intellektin kritik infrastruktura çıxışının məhdudlaşdırılmasını və insan müdaxiləsi imkanının qorunmasını təklif edirlər. Şəxsi məlumatlardan istifadəyə nəzarət və şirkətlərin öz məhsullarının nəticələrinə görə məsuliyyəti də eyni dərəcədə vacib hesab olunur.
Bundan əlavə, xüsusilə süni intellektin hərbi tətbiqi və ən güclü universal modellər üçün beynəlxalq qaydaların yaradılması müzakirə olunur. Lakin vahid normaların hazırlanması asan deyil: dövlətlər texnoloji üstünlüklərini qorumağa çalışır və öz layihələri barədə məlumatları həmişə açıqlamağa hazır olmurlar.
Süni intellektin əsas təhlükəsi fantastik filmlərdəki “şər maşın” obrazında deyil. Real risklər səhv müəyyən edilmiş məqsədlərdən, həddindən artıq avtonomluqdan, alqoritmlərin qeyri-şəffaflığından və texnologiyadan insanların zərərli məqsədlərlə istifadəsindən yaranır.
Nəzarətin itirilməsi ssenarisi hələlik hipotetik olaraq qalır. Amma fırıldaqçılıq, dipfeyklər, nəzarət texnologiyaları və silahların avtomatlaşdırılması artıq bu gün diqqət tələb edir. Buna görə süni intellektin inkişafı təhlükəsizlik yoxlamaları, aydın qaydalar və ən vacib qərarlarda insan məsuliyyətinin qorunması ilə müşayiət olunmalıdır.
