Vaşinqton ştatının Kirkland şəhərində möhtəşəm gündür. Söhbət Sietlın varlı şəhərətrafı ərazilərindən, Vaşinqton gölünün şərq sahilindən gedir. Havanın temperaturu 27–28°C civarındadır, səma isə qeyri-real dərəcədə mavidir. Gates Ventures-in konfrans zalından Karrillon-Poynt limanına mənzərə açılır: suda bahalı yaxtalar yırğalanır, üfüqdə isə Olimpiya dağları görünür. Mənzərə valehedicidir, eyni zamanda bir qədər narahatedicidir.
Ətrafdakı sakitlik həmsöhbətimin narahat xəbərdarlıqları ilə heç cür uyğun gəlmir. Konfrans zalında masanın o biri tərəfində Bill Qeyts oturub, stulunda irəli-geri yellənir və qeyri-adi emosional tərzdə danışır. İqtisadi çöküşdən tutmuş süni intellekt sistemləri üzərində nəzarətin itirilməsinə qədər müxtəlif təhlükələrdən nə qədər çox danışırsa, gərginlik də bir o qədər artır.
Filantrop və Microsoft-un keçmiş rəhbəri süni intellekt texnologiyalarının inkişaf sürətindən və nəzarət mexanizmlərinin bu sürətdən nə qədər geri qalmasından getdikcə daha çox narahatdır. Bu gün dərc olunan yeni məqaləsində Qeyts bildirir ki, bəşəriyyət potensial təhlükələr barədə ciddi düşünməli olduğu kritik hədləri artıq keçib.
“Biz süni intellektin bioloji, kiber, psixososial imkanları, əmək bazarını dağıtmaq potensialı və hətta texnologiya üzərində nəzarət məsələsində kritik hədləri keçmişik”, – o, yeni qeydinə həsr olunmuş MIT Technology Review müsahibəsində bildirib. “Məni heyrətləndirən odur ki, sənayedən kənarda bu barədə nə qədər az danışılır və ictimai narahatlıq nə qədər zəifdir”.
Qeyts cəmiyyət üçün sürətlə böyüyən problem hesab etdiyi məsələyə dünyanın diqqətini cəlb etmək üçün daha sərt xəbərdarlıqlar etməyə başlayıb. 70 yaşlı texnologiya lideri bunu həm açıq şəkildə – dərc etdiyi yeni məqalə və mətbuatla söhbətlər vasitəsilə, həm də qapalı görüşlərdə – sənaye, hökumət və vətəndaş cəmiyyəti liderləri ilə müzakirələrdə edir. Bu məqalə onun bu mövzuda dərc etməyi planlaşdırdığı silsilənin ilk hissəsidir.
Onun müasir qabaqcıl modellərin bioloji imkanları barədə dedikləri xüsusilə narahatedici səslənir. “Yeni molekullar yarada bilən istənilən model nəzarət altında olmalıdır”, – Qeyts vurğulayır. “Risk baxımından bioterrorizmi təbii pandemiya riskindən təxminən 50 dəfə daha ehtimal olunan və qorxulu hesab edirəm”.
Qeyts xəbərdarlıqlarla yanaşı, irəli getmək üçün bir sıra yeni ideyalar da təklif edir. Bunların arasında “iş yerlərinin insanlar üçün rezerv edilməsi”, robotlara və tokenlərə vergi tətbiqi var. Robot vergisi ideyası uzun müddətdir onun diqqətindədir. Birinci yanaşma müəyyən ictimai əhəmiyyətli peşələrin insanlar üçün saxlanılmasını nəzərdə tutur və belə peşələrin siyahısı ölkədən ölkəyə fərqlənə bilər. İkinci yanaşma isə insan əməyini əvəz edən süni intellektdən əldə olunan gəlirin bir hissəsini vergi vasitəsilə toplamağı təklif edir.
Bununla yanaşı, Qeytsin fikirlərində optimizm də var. O inanır ki, süni intellekt kənd təsərrüfatını, səhiyyəni və təhsili köklü şəkildə dəyişdirməyə davam edəcək, həmçinin insanlara bürokratik prosedurların öhdəsindən gəlməyə kömək edəcək. Onun fikrincə, nəticədə cəmiyyət bolluq mərhələsinə çata bilər. Lakin əvvəlcə çox gərgin və təlatümlü bir dövrdən keçmək lazım gələcək.
MIT Technology Review milyarder və filantropla qarşıdakı yol, bu yolun yaratdığı təhlükələr və sonda daha yaxşı gələcəyə necə çata biləcəyimiz barədə danışıb.
Aşağıdakı müsahibə daha yığcam və rahat oxunaqlı olması üçün qısaldılıb.
Mett Honan / MIT Technology Review: Söhbətə razılıq verdiyiniz üçün təşəkkür edirəm. Bilmirəm, müəyyən bir mövzudan başlamaq istəyirsiniz, yoxsa birbaşa suallara keçim?
Bill Qeyts: Bilirsiniz, mənə tez-tez yaxşı bir sual verirlər: ümumiyyətlə niyə indi bu barədə danışıram?
MIT Technology Review: Əslində bu, mənim də ilk sualımdır!
Bill Qeyts: Bunun iki səbəbi var. Birincisi, biz doğrudan da həmin hədləri keçmişik: bioloji, kiber, psixososial baxımdan, süni intellektin əmək bazarını dağıtmaq qabiliyyəti və texnologiya üzərində nəzarət məsələsində. Problemlərin ilk əlamətlərini artıq görürük. Bütün bu illər ərzində insanlar deyirdilər: “Yaxşı, bu hədlərə yaxınlaşanda düşünərik ki, texnologiyadan yalnız məsuliyyətli insanların istifadə etməsini necə təmin edək, onun zərər verməsinin qarşısını necə alaq və bəlkə də məhz həmin mərhələdə modellərin kopyalanmasını qadağan edək”. İndi isə mən sadəcə şokdayam ki, həmin hədlər artıq keçilib.
Bu, birinci səbəbdir. İkinci səbəb isə odur ki, mövzunun sənayedən kənarda nə qədər zəif müzakirə olunması məni heyrətləndirir. Sənayenin daxilində də vəziyyət sadə deyil: şirkətlər özlərini tənqid etməyi sevmirlər, bazar iştirakçıları da bir-birinin risklərini açıq şəkildə göstərməyə həvəsli deyillər. Bəzi şirkətlər başlanğıc səviyyəli vəzifələr üzrə işə qəbulu azaldırlar və bu, bəlkə də mümkün olan ən zəif siqnaldır. Amma dəyişikliklər qaçılmazdır və onları uzun müddət gözləmək lazım gəlməyəcək. Əvvəllər inkişafı məhdudlaşdıran imkan və etibarlılıq problemləri indi sürətlə həll olunur. Nəticədə “ağ yaxalılar” bazarının böyük hissəsi insan əməyinin çox ucuz alternativlə əvəz oluna biləcəyi vəziyyətlə qarşılaşır. Robototexnikanın nə qədər sürətlə inkişaf edəcəyini müxtəlif cür qiymətləndirmək olar. Biz hələ dönüş nöqtəsinə çatmamışıq, amma tərəqqi təsirlidir – Çində bir qədər daha çox, ABŞ-də bir qədər az, lakin hər iki ölkədə aydın görünür.
MIT Technology Review: Siz demisiniz ki, hər şey internet inqilabından və ya əvvəlki texnoloji çevrilişlərdən daha sürətli baş verir. Söhbət hansı zaman üfüqündən gedir? Sizcə, artıq elə bir dönüş nöqtəsini keçmişik ki, bundan sonra dəyişikliklər qaçılmaz olacaq?
Bill Qeyts: Keçmiş təcrübə bu məsələdə yanıltıcıdır, baxmayaraq ki, çoxları hələ də ona əsaslanır. “Baxın, əvvəlki texnologiyaların heç biri iş yerlərinin xalis sayının azalmasına gətirib çıxarmayıb”, – deyirlər və bu doğrudur. Mən özüm də əvvəllər belə çıxışlar etmişəm.
Amma indi vəziyyət fərqlidir və bunu bütün nüfuzuma arxalanaraq deyirəm. Əgər süni intellekt bütün sahələrdə peşələrin böyük əksəriyyətində insan intellektini əvəz edə bilirsə, özü də insan əməyinin dəyəri ilə müqayisədə münasib qiymətə və yəqin ki, daha aşağı səhv səviyyəsi ilə, onda keçmiş təcrübə pis göstəriciyə çevrilir. Cari iqtisadi göstəricilər də yanıltıcıdır.
“Əgər süni intellekt sizi narahat edirsə, məlumat mərkəzinin qarşısında etiraz etmək mənfi nəticələri necə azaltmaq barədə müzakirəyə başlamağın ən effektiv yolu deyil”.
Bill Qeyts
Əgər hansısa narahatlıq yaranırsa belə, bu çox vaxt “məlumat mərkəzləri tikməyin” kimi şüarlara çevrilir. Amma ABŞ-də bütün məlumat mərkəzlərinin tikintisini dayandırsanız belə, mənim danışdığım problemlərin heç biri həll olunmayacaq. Məlumat mərkəzləri dünyanın başqa yerlərində tikiləcək. Süni intellektdən narahatsınızsa, məlumat mərkəzinin qarşısında piket keçirmək riskləri necə azaltmaq barədə müzakirə başlatmağın ən yaxşı üsulu deyil. Bu, iqlim dəyişikliyi problemini həll etmək üçün neft şirkətinin rəhbərinə qışqırmağa bənzəyir.
MIT Technology Review: Məqalənizdə süni intellektin həm faydalarından, həm də xərclərindən yazırsınız. Bu mesajı necə balanslaşdırmağa çalışırsınız? Oxucuların məqaləni oxuduqdan sonra bir qədər narahat olmasını istəyirsinizmi?
Bill Qeyts: Narahat olmalıdırlar! Mən gözləmirdim ki, cəmiyyətin bütövlükdə bu mövzuya kifayət qədər diqqət ayırmadığını deyən ən gur səslərdən biri mən olacağam. Amma məncə, bu lazımdır.
Bəli, mən mənfi nəticələrin miqyasının çox böyük ola biləcəyindən son dərəcə narahatam. Eyni zamanda süni intellektin faydaları realdır. Qeyts Fondu vaksin və dərmanların hazırlanmasında bu alətlərdən fəal istifadə edir və nəticələr təsirlidir. Biz zülal və hüceyrə səviyyəsində modelləşdirmə üçün məlumatların toplanması üzrə böyük layihədə iştirak edirik, həmçinin Stanfordda elmi araşdırmalar üçün biotexnoloji süni intellekt köməkçisi Biomni-ni maliyyələşdiririk.
Biz hələ süni intellektdən dövlət bürokratiyası ilə qarşılıqlı əlaqəni sadələşdirmək üçün istifadə etməyi tam öyrənməmişik, halbuki burada böyük potensial var. O, mürəkkəb tənzimləyici prosedurlarla çox yaxşı işləyə bilir. Məsələn, insan deyə bilər: “Mən kiçik iddialar məhkəməsinə müraciət etmək istəyirəm, mənə kömək et”.
Fond ayrıca NextLadder adlı istiqamət yaradıb. Bu qrup, məqalədə yazdığım kimi, aşağı gəlirli ailələrə dəstək məsələləri ilə məşğul olur. Hansı yardımı almaq olar? Hansı yenidən hazırlıq proqramları mövcuddur? “Məni evdən çıxarıblar”. “Mən həbsxanadan çıxıram”. “Müflis olduğumu elan etməliyəm”. Bunların hamısı inanılmaz dərəcədə mürəkkəbdir, insanların isə məsləhətçi tutmağa imkanı yoxdur. Süni intellekt məhz iqtisadi çətinliklərlə üzləşən və həm dövlət, həm də qeyri-dövlət dəstəyi axtaran insanlar üçün əla köməkçi ola bilər.
MIT Technology Review: Siz qismən süni intellektin insandan daha ağıllı ola biləcəyindən danışırsınız. Texnologiya dairələrində bir çoxları inkişafın bundan da irəli gedəcəyinə əmindir. Sizcə, süni intellektin sadəcə məlumatlara çıxış, analiz və mürəkkəb məsələlərin həlli üçün interfeys olmaqdan çıxıb daha böyük bir şeyə – müstəqil qərar verən, nəyi analiz etməli olduğunu seçən və tədqiqat istiqamətlərini özü müəyyənləşdirən sistemə çevrilməsinə nə qədər yaxınıq?
Bill Qeyts: İfrata gedib soruşmaq olar: “Bəs riyaziyyat və ya fizika necə?” Elə peşələr var ki, orada illərlə toplanmış gizli bilik çox böyük rol oynayır. Məsələn, Uorren Baffet 13 yaşından biznesin dəyərini qiymətləndirməyi öyrənib və 80 il sonra onun çox böyük gizli bilik bazası var. Biz Baffet səviyyəsində süni intellekt investoru yaratmağı bilmirik. Heç kim onun bütün təcrübəsini qeydə almayıb və əlimizdə biliklərinin belə bir “surəti” yoxdur. Hazırda modellərdə mürəkkəb gizli mühakimələri, məsələn, məqsədlərə çatmaq üçün insanlarla necə qarşılıqlı əlaqə qurmağı kodlaşdırmaq üzərində iş gedir. Amma süni intellekt bu sahədə hələ çox geri qalır.
Eyni zamanda əmək bazarının təxminən yarısı “bütün ömür boyu toplanmış təcrübə” tələb etməyən peşələrdə çalışır. Məsələn, telefon satışları, texniki dəstək, mühasibatlıq. Ayın sonunda hesabatları bağlayanda hansı gəlirin tanınması, hansının tanınmaması lazımdır? Müştərinin problemi yaranıbsa, ona hansı endirim verilməli və bu necə rəsmiləşdirilməlidir? Bunlar dəqiq müəyyən edilmiş tapşırıqlardır.
İstənilən dəqiq müəyyənləşdirilmiş tapşırıq üçün süni intellekt daha ucuz və effektivdir. Bəli, uğursuz tətbiq halları olub: məlumatlar səhv idi, proseslər düzgün qurulmamışdı. Amma cəmi bir neçə il keçəcək və insanların əksəriyyəti anlayacaq ki, ofis peşələrinin böyük bir hissəsini süni intellekt vasitəsilə, insana ödəniləndən xeyli az xərclə yerinə yetirmək mümkündür.
Məsələn, riyaziyyatçıların süni intellektin yaratdığı yeni ideyaları anlamamağa başlayacağı məqamı müzakirə etmək maraqlıdır. Bu, doğrudan da maraqlı mövzudur və MIT Technology Review bu barədə yazmalıdır. Amma bütövlükdə əmək bazarına baxsaq, həddi artıq keçmişik: ofis peşələrinin böyük hissəsində, o cümlədən demək olar bütün başlanğıc səviyyəli vəzifələrdə süni intellekt düzgün tətbiq olunarsa daha ucuz başa gəlir.
Mən bunu birbaşa deyirəm: bioterrorizm təhlükəsinin həddini keçmişik, kiberhücum təhlükəsinin həddini keçmişik, əmək bazarı üçün təhlükə həddini keçmişik, psixososial asılılıq həddini keçmişik və texnologiya üzərində nəzarətin itirilməsi həddinə yaxınlaşdığımızı göstərən əlamətlər var.
Rayan Qrinblattın nümunəsi çox göstəricidir. O, Dvarkeş Patellə söhbətində möhkəmləndirici öyrənmənin müxtəlif süni intellekt sistemləri arasında “sövdələşmə” və manipulyasiyalara aparan yanlış stimullar yaratdığını müzakirə edib. Problemə dərindən bələd olan Rayan deyir: “Möhkəmləndirici öyrənmə bizim açıq təlimatlarla qarşısını ala bilmədiyimiz davranışlar yaradır”. Bunun sonu nə olacaq?
Mən həmişə düşünürdüm ki, bu problem daha gec yaranacaq. Gözləyirdim ki, texniki bacarığı olmayan istənilən insanın süni intellekt vasitəsilə kiberhücum təşkil edə biləcəyi həddə yaxınlaşanda çoxlu yüksək səslər eşidiləcək. Amma artıq həmin nöqtədəyik.
Biologiyaya gəlincə, təkid edirəm: yeni molekullar yarada bilən istənilən model nəzarət altında olmalıdır. Onun nəzarət məntiqinin söndürüldüyü “qaranlıq” məkana kopyalanmasına imkan verilməməlidir. Məncə, ABŞ belə bir qayda müəyyən etməlidir: yeni molekullar yarada bilən istənilən model monitorinqə məruz qalmalıdır. Çinlə dialoqa başlamaq lazımdır: “Gəlin ortaq qaydalar barədə razılaşaq. Bunun mənfi tərəfi nədir?” Bioterrorizm bazarı nə qədər böyükdür? Çox da böyük deyil. Amma razılaşdırılmış tədbirlərin faydası nəhəngdir. Bundan başqa, müşahidə sistemlərini gücləndirmək lazımdır. Dediyim kimi, bioterrorizm riskini təbii pandemiya riskindən təxminən 50 dəfə yüksək və ehtimal olunan hesab edirəm. Amma hazırda kim yüksək səslə deyir ki, belə modellər nəzarətdə olmalıdır? Kim müşahidə imkanlarını artırır?
“Yeni molekullar yarada bilən istənilən model nəzarət altında olmalıdır”.
Bill Qeyts
Hökumətdə bu məsələlər üzrə ekspert kimdir? Əvvəllər dövlət qabaqcıl texnologiyaların – təyyarələrin, raketlərin və sairənin – əsas sifarişçisi idi və buna görə də onları dərindən anlayırdı. İndi vəziyyət fərqlidir: dövlət süni intellekt sahəsində aparıcı sifarişçi və ya iri tədqiqat sponsoru deyil. Bu, rəqəmsal inqilab üçün də belə idi, süni intellekt inqilabı üçün də belədir. Buna görə dövlət strukturlarında ekspertiza səviyyəsi həmişə kifayət qədər yüksək deyil. Süni intellekt araşdırmaları əsasən dövlət qrantları hesabına maliyyələşmir.
MIT Technology Review: Bilirəm ki, siz dövlət nümayəndələri ilə danışırsınız. Onların arasında problemin nə qədər təcili olduğunu anlayanlar varmı? Sizcə, bu məsələdə kim liderliyi üzərinə götürə bilər?
Bill Qeyts: Ümid edirəm ki, mövzu sırf partiya məsələsinə çevrilməyəcək; yəni bir tərəf problemi tamamilə görməzdən gəlməyəcək, digər tərəf isə onunla fəal məşğul olmayacaq. İstərdim ki, hamı bunun real problem olduğunu qəbul etsin, sonra isə hər tərəf öz həll variantını təklif etsin.
Bunun üçün bürokratiyanı kəskin şəkildə böyütmək lazım deyil, amma dövlət qurumlarında süni intellekt üzrə ekspertiza səviyyəsini artırmaq lazımdır. Sənaye ilə əməkdaşlıq da lazım olacaq – xüsusilə kibersahədə. Şirkətlər baş verənlərdən onsuz da ciddi narahatdırlar. Onları bir sual düşündürür: bunu ictimaiyyət qarşısında demək lazımdırmı? Çünki bir tərəfdən açıq müzakirə risklərin səviyyəsini daha da nəzərə çarpdıra bilər.
Həm kiber, həm də biologiya sahəsində pis stimullar var. Amma biz artıq bütün məntiqli sərhədləri keçmişik.
Mən nəzarətin zəruri olduğuna inanıram. Kimsə deyə bilər ki, bu işləməyəcək və ya faydadan çox zərər verəcək – həmin arqumentləri dinləməyə hazıram. Mənim qeydim hazır həll resepti deyil. Orada robot vergisi, iş yerlərinin rezerv edilməsi kimi ideyalar var. İlin sonunadək biologiya mövzusunda ayrıca qeyd dərc edəcəyəm. Orada Fondun təcrübəsinə və pandemiyalarla bağlı işimə əsaslanaraq müxtəlif məsələləri ətraflı nəzərdən keçirəcəyəm.
Dünyada pandemiyalara hazırlıq əvvəlkindən yaxşıdır, hətta qlobal problemlərin həllində adətən lider olan ABŞ-də də. Hazırda çoxlarına ABŞ-nin bu məsələlərdə əməkdaşlığa açıq və xeyirxah lider rolunda çıxış etməməsi qəribə gəlir. Düşünürəm ki, daha effektiv birgə işə qayıda bilərik. Bu, süni intellektin tənzimlənməsi üçün də vacibdir – məsələn, bioloji monitorinq sahəsində kritik hədlərin müəyyən edilməsində Çinlə əməkdaşlıq üçün.
MIT Technology Review: İki ideyanız barədə ayrıca danışmaq istəyirəm: iş yerlərinin insanlar üçün rezerv edilməsi və robotlarla tokenlərə vergi. İkincidən başlayaq. Belə bir vergi necə işləyə bilər?
Bill Qeyts: Tutaq ki, token vergisindən əldə olunan gəlirin 50%-i büdcəyə yönəldilir və bu vəsait süni intellektin tətbiqi səbəbindən işini itirmiş insanlara dəstək üçün istifadə olunur. Əlbəttə, kimsə deyəcək ki, bu, süni intellekt sənayesinin inkişafını ləngidəcək. Token istifadəsinin bəzi növləri vergidən azad edilməlidirmi? İxtiraçılığa kömək edən süni intellektlə birbaşa iş yerlərini əvəz edən süni intellekt arasında aydın sərhəd çəkmək mümkündürmü? Kimsə mənə süni intellektə “iş yerlərini əvəz etmə” deməyin yolunu göstərə bilsə, minnətdar olaram. Məsələn, Azimovun üçüncü qanunu – “robot insana zərər verə bilməz” – eyni zamanda “məni işimdən məhrum etmə” deməkdirmi? Mən özüm də Azimovdan bunu soruşmaq istərdim.
Sosial dəstək sistemini gücləndirmək üçün vəsaiti haradan almaq lazımdır? Dövlət onsuz da şirkətlərin mənfəət vergisi vasitəsilə gəlirin bir hissəsini alır. Məncə, dövlətin şirkətlərdə səhm sahibi olması və ya onları nə vaxt satacağını müəyyənləşdirməsi yaxşı fikir deyil. Token vergisi mahiyyətcə satış vergisi, əlavə dəyər vergisi və ya alkoqol, tütün, lüks mallar üçün tətbiq olunan sahə vergisinə bənzər yanaşmadır.
Əgər insanların sosial müdafiəni gücləndirmək üçün başqa ideyaları varsa və ya ümumiyyətlə bunun lazım olmadığını düşünürlərsə, qoy müzakirəyə qoşulsunlar. Ümid edirəm ki, mənim “səs-küylü” dərcim bu söhbəti başladacaq. Mən əminəm ki, sosial dəstək sisteminə xeyli daha çox resurs lazım olacaq və token vergisi əsas maliyyə mənbələrindən birinə çevrilə bilər.
Robotlarla bağlı vəziyyət qarışıq olacaq: qismən məhdudiyyət və qadağalar, yəni əslində müəyyən işlərin insanlar üçün rezerv edilməsi, qismən də vergi. Tam şəkildə işləyə bilən robotlar hələ hər yerdə yoxdur, amma bu hədd birdən-birə keçilə bilər. Robot zavodda işləmək üçün kifayət qədər yaxşı olduqda, böyük ehtimalla yemək hazırlaya, təmizlik edə, tikintidə işləyə və anbarlardakı bütün vakansiyaları tuta biləcək. Həddi keçəcəyik və dərhal əmək bazarının təxminən 30%-nə toxunacağıq. Onda hamı deyəcək: “İlahi, bu barədə bizim ümumiyyətlə hansı siyasətimiz var?” Çünki robot daha ucuzdur.
“Qarşıda bizi çox təlatümlü dövr gözləyir”.
Bill Qeyts
MIT Technology Review: Səhv etmirəmsə, əvvəllər şərtsiz baza gəliri ideyasına skeptik yanaşırdınız?
Bill Qeyts: Bəli. Hazırda şərtsiz baza gəlirini ödəyəcək qədər varlı deyilik.
MIT Technology Review: Amma sizcə, indi bu istiqamətə doğru hərəkət etmək lazımdırmı? Mövqeyinizi dəyişmisiniz?
Bill Qeyts: Qarşıda təxminən 10–20 illik sarsıntılar dövrü var, sonra isə ümid edirəm ki, daha sabit vəziyyət yaranacaq. İnsanlar elə bir cəmiyyətdə böyüyəcəklər ki, orada qida və xidmətlər baxımından müəyyən bolluq səviyyəsinə həqiqətən çatılacaq. Amma biz hələ orada deyilik. Hazırda qaliblər və uduzanlar var. Mənzil qiymətləri birdən-birə düşməyəcək. Kvalifikasiyanın təsdiqi kimi qəbul etdiyimiz təhsil də sürətlə ucuzlaşmayacaq.
Çox narahat dövrdən keçməliyik. Bəli, gələcəkdə bolluq mümkündür, amma ona ən azı on il var.
MIT Technology Review: İş yerlərinin insanlar üçün rezerv edilməsi ideyasına qayıdaq. Mənə çox maraqlı və tamamilə yeni yanaşma kimi göründü. İnsanlar üçün saxlanılmalı peşələrin konkret siyahısını vermirsiniz. Bunu necə təsəvvür etdiyinizi bir qədər ətraflı izah edə bilərsinizmi?
Bill Qeyts: Mən əvvəllər “insan rezervi” konsepsiyasına rast gəlməmişəm. Bəlkə ədəbiyyatda dərindən axtarsaq, haradasa var. Süni intellektdən əvvəl bu ideya mənasız görünürdü, çünki əməyə tələb demək olar sonsuz idi. Bəli, bəzi qruplar, məsələn, tekstil işçiləri çətinliklə üzləşirdilər və onda müavinətlər, yenidən hazırlıq məsələləri ortaya çıxırdı. Amma ümumilikdə texnologiya məhv etdiyindən daha çox iş yeri yaradırdı. İndi ilk dəfə ciddi düşünmək lazımdır: bəs uşaqlara qulluq necə olacaq? Evdə yemək hazırlanması necə olacaq?
Hazırda “Annie Bot” kitabını oxuyuram. Oradakı qəhrəman həm partnyor, həm də bir növ yoldaş rolunu oynayan robotla yaşayır və bu, çox qəribə görünür.
İnsanlar insanların beysbol oynamasına baxmağı sevirlər və robotların daha yaxşı oynaya bilməsi bu tamaşanın dəyərini azaltmayacaq. İnsanlar idman komandalarına 10 milyard dollar ödəməyə hazırdırlar və çətin ki, həmin komandalar süni intellekt dövründə dəyərdən düşsün. Bəlkə də bu, doğrudur. Dostum Vinod [Xosla] bu yaxınlarda belə bir komanda alıb.
Əslində süni intellektin əvəz etdiyi iş yerlərinin payının 30–40%-i keçməsini təsəvvür etmək çətindir. Əgər 50%-ə çata bilsək, onda erkən pensiya, çoxlu insan üçün qısaldılmış iş həftəsi və ümumilikdə cəmiyyətin ciddi transformasiyası barədə danışmaq olar. Amma söhbət 10–15%-dən gedirsə, mənzərə tamam fərqli olacaq.
Məsələn, uşaqlara qulluq sahəsini robot əməyinin qadağan olduğu sahə elan etmək radikal səslənir. Mənim hələ dəqiq formula tapa bilmədiyim peşələr var. Bu mövzuda tam qeydi hazırlayanda onları müəyyənləşdirməyə çalışacağam.
Təhsildə süni intellekt repetitor rolunu əla yerinə yetirir: ev tapşırıqlarını dərhal yoxlayır, tapşırıqları seçir, şagirdə meydan oxuyur və bütün bunları maksimum fərdiləşdirilmiş şəkildə edir. Bu, həqiqətən faydalıdır. Amma mən hələ də hesab edirəm ki, canlı müəllim lazımdır – uşaqla motivasiya barədə danışacaq, uşaqların birlikdə problemləri həll etdiyi və qarşılıqlı fəaliyyət öyrəndiyi qrup işini təşkil edəcək insan.
Səhiyyədə də eyni şeydir. Süni intellekt sutkanın 24 saatı əlaqədə ola bilər, ideal yaddaşa malikdir və məlumatları sürətlə emal edir. Məsələn, Britaniyanın Limbic şirkəti psixi sağlamlıq həlləri üzərində işləyir, yaxınlarda Fondumuza da gəlmişdilər. Hippocratic adlı tibb bacıları üçün süni intellekt sistemi də var. Bir çox hallarda xəstələr hətta belə alətlərə üstünlük verirlər. Amma kəskin problemlərin aşkarlanmasına gəldikdə, məsələn, psixiatrik yardımda vəziyyətin ağırlaşmasının müəyyənləşdirilməsi üçün xəstə ilə söhbət əsas mərhələdirsə, insan təması əvəzolunmaz olaraq qalır.
Taksini götürək. Tanıdığım insanların çoxu, qəribə də olsa, sürücülü adi taksidən çox Waymo-nun pilotsuz taksisini üstün tutur. Deməli, cəmiyyətdə konsensus yaratmaq asan olmayacaq. Yanaşma ölkədən ölkəyə fərqlənə bilər, amma onda ticarət siyasətini də yenidən nəzərdən keçirmək lazım gələcək. Məsələn, Aİ-nin karbon sərhəd tənzimləmə mexanizminə, CBAM-a bənzər sistem tətbiq etmək olar. Yəni insan iştirakı olmadan istehsal olunan mal və xidmətlərə faktiki rüsum qoymaqla rəqabət şərtlərini bərabərləşdirmək.
“İnsan rezervi” iki səbəbdən tətbiq oluna bilər. Birincisi, insan dəyəri baxımından müəyyən peşələr həmişə insanlara məxsus qalmalıdır – Roma Papasının bu mövzuda danışdığı mənada. İkincisi, rezerv keçid mexanizmi kimi müvəqqəti ola bilər. Məsələn, 53 yaşlı yük maşını sürücüsünə və ya dəzgah operatoruna “get uşaq baxıcısı ol” demək həmişə işləməyəcək. Buna görə müəyyən peşələri on il müddətinə insanlar üçün rezerv etmək olar ki, onlara uyğunlaşmağa vaxt verilsin.
MIT Technology Review: Deməli, bu, Böyük Britaniyadakı siqaret qadağasına bənzəyir, sadəcə əksinə.
Bill Qeyts: Bəli. Əsas sual budur: bunun pulunu kim ödəyəcək? İşəgötürənləri əməkdaşları işdən çıxarmamağa stimullaşdırmaq mümkündürmü? Amma onlar tamamilə süni intellekt üzərində qurulan startapların rəqabəti ilə qaçılmaz üzləşəcəklər. Hazırda çoxları bir əməkdaşı olan və milyard dollar dəyərində qiymətləndirilən şirkət ideyasına heyrandır. Amma bu, əslində iş yerlərinin böyük miqyasda əvəzlənməsi deməkdir.
MIT Technology Review: Qeydinizdə yazırsınız ki, inkişaf tempini real şəkildə yavaşlatmaq mümkün olsaydı, buna çağırardınız. Siz Satya Nadella və digər süni intellekt şirkətlərinin rəhbərləri ilə danışırsınız. Cəmiyyət əsas sosial problemləri işləyib hazırlayana qədər sənayenin bir qədər yavaşlamasını istəməyin niyə qeyri-real olduğunu düşünürsünüz?
Bill Qeyts: Sənayenin özünü tənzimləyəcəyinə güvənmək olmaz. Bu, özlüyündə bir qədər sadəlövh yanaşmadır. Mənə bəxt gətirib ki, Sem Altman, Qreq Brokman, Mustafa Süleyman və Demis Hassabisi tanıyıram. Bunlar gözəl insanlardır və şəxsi söhbətlərdə doğrudan da narahatdırlar. İlonla az-az danışıram, amma onun açıq çıxışlarından görünür ki, o da narahatdır, baxmayaraq ki, hazırkı mövqeyi daha çox “baxaq görək nə olacaq” kimidir.
Bu şirkətlərin yaranma tarixinə baxın. OpenAI qismən ona görə yaradıldı ki, İlon Google-un süni intellektin inkişafını lazımi şəkildə idarə edə bilməyəcəyindən qorxurdu və texnologiyanın hamı üçün əlçatan olmasını, bəşəriyyətin maraqları naminə inkişaf etməsini istəyirdi. OpenAI-də hətta belə fikir də var idi: “Model kifayət qədər güclü olsa, onu söndürərik”. Sanki texnologiyanı yalnız onlar idarə edə bilər və lazım olsa “basdırarlar”.
Sebastyan Mallabinin Demis Hassabislə bağlı “The Infinity Machine” kitabında Demis və Mustafa Süleymanın DeepMind texnologiyalarının idarə olunması üçün xüsusi mexanizm yaratmaq barədə Google rəhbərliyi ilə necə danışıqlar apardıqları təsvir olunur. Söhbət texnologiyanın kibersahədə müəyyən həddə çatdığı halda şirkətin onun inkişafını sırf kapitalist motivlərlə deyil, başqa meyarlarla da məhdudlaşdıra bilməsindən gedirdi.
Deməli, bu insanların hamısı mənfi nəticələrdən narahatdır. Hamısı deyirdi: “Həmin hədlərə yaxınlaşanda nəsə edəcəyik”. Biz artıq həmin hədləri keçmişik. Könüllü yoxlama mexanizmlərimiz var, Çinlə “biz heç nəyi qadağan etməyəcəyik, siz də etməyəcəksiniz? Yaxşı, onda birlikdə belə hərəkət edək” tipli müzakirələr gedir.
Nəyə hazır olduğunuzu aydın göstərmək lazımdır. Bəli, sənaye yavaş-yavaş anlayır ki, PR işi daha yaxşı aparılmalıdır və guya mənfi nəsə deyən hər kəs kənara çəkilməlidir, çünki hamı yaxşı şeylər danışmağa razılaşıb – axı trilyonlarla dollar cəlb etmək lazımdır.
Bir də Çin var. ABŞ ilə Çin arasında süni intellektdən kənarda belə qarşılıqlı faydalı əməkdaşlıq üçün çoxlu sahə var. Amma birlikdə işləməli olduğumuz ən mühüm mövzu məhz süni intellektdir. Bunun üçün əvvəlcə öz ölkəndə nəyə hazır olduğunu göstərməlisən. Hətta dərhal etmək məcburi deyil – planlarını bəyan etmək də kifayətdir. Onda mənim Çinin yeni molekullar yarada bilən modellərin nəzarətdə saxlanılması ilə razılaşmayacağını düşünmək üçün səbəbim olmaz. Bəli, bu ideal həll deyil və başqa addımlar da lazımdır. Amma bu barədə ümumiyyətlə danışılmaması çox qəribədir.
Mən özüm də tam anlamıram ki, niyə hazırda ən yüksək səslə həyəcan təbili çalan mənəm. Axı mən kiməm? Amma gördüyüm vəziyyət budur.
MIT Technology Review: Həyatınızın böyük hissəsində sizi çox inandırıcı natiq kimi qəbul ediblər, sözlərinizə qulaq asırlar və yəqin ki, buna görə indi bu barədə danışırsınız. Bununla yanaşı, son illərdə – Epşteynlə əlaqələrinizdən peşman olduğunuzu bilirəm – çox absurd məsələlər də ortaya çıxıb. Məsələn, COVID-19 vaksini ilə bağlı sizin heç bir məsuliyyət daşımadığınız və nəzarət edə bilmədiyiniz konspirasiya nəzəriyyələri. Maraqlıdır, siz hələ də insanlara ideyaları çatdıra bildiyinizi düşünürsünüzmü və ümumiyyətlə dünyaya mesajınıza, öz irsinizə necə baxırsınız?
Bill Qeyts: Mən irsim barədə həddindən artıq düşünmürəm. Bəli, antiinhisar prosesi zamanı məni tənqid edirdilər və bəlkə də bəzi məqamlarda daha yaxşı davrana bilərdim. Bunu “Source Code”dan sonra gələcək kitabımda müzakirə edəcəyəm. Bəli, ilk evliliyim uğurlu olmadı. Orada böyük səhvlər etmişəm və bu, şübhəsiz mənim əleyhimə olan məqamdır. Epşteynlə ünsiyyət son dərəcə düşünülməmiş addım idi. Bu, Fondun reputasiyasını risk altına atdı, halbuki reputasiya onun bütün fəaliyyəti üçün kritik əhəmiyyət daşıyır. Mən Konqres qarşısında çıxış etmək, verilən bütün suallara cavab vermək və açıq şəkildə “bəli, bu səhv idi” demək imkanı əldə etdim. Mən sosial insan deyildim, qadınlarla tanış olmurdum – yalnız onun yanında olan insanları görürdüm – və nə etdiyimi, nə etmədiyimi mümkün qədər aydın izah etməyə çalışdım.
Mən milyarderəm, sərvətimi texnologiyadan qazanmışam. Ola bilsin ki, məhz bu fakt müəyyən mənada mənim xeyrimə işləyir, çünki innovasiyalara qarşı çıxmağım mənim üçün qeyri-adi haldır. Mən hesab edirəm ki, düzgün siyasət formalaşdırılmasa və lazımi qoruyucu tədbirlər tətbiq edilməsə, texnoloji tərəqqi nəticədə bəşəriyyətə zərər verə bilər. Biz isə bununla bağlı lazım olan geniş ictimai müzakirəni aparmırıq.
Bəli, mən ideal natiq deyiləm. Amma siyasətçilərə və dünya liderlərinə çıxışım olduğuna görə 2008-ci ildən əsas mesajımı dünyanın ən yoxsul insanlarına kömək mövzusu üzərində qurmuşam. Gəlin malyariyaya qalib gələk. Gəlin uşaqlar üçün vaksinlər alaq. Tramp, Si Cinpin, Makronla görüşəndə – Bernemlə hələ görüşməmişəm, amma bir aydan sonra görüşəcəyəm – istəyirəm ki, mənim səsim ilk növbədə bunlar barədə eşidilsin: beynəlxalq yardım, elmi tədqiqatlar, uşaq ölümünün azaldılması.
Süni intellekt təhlükələri barədə dediklərim də eyni məqsədə xidmət edir: müsbət dəyişiklikləri sürətləndirmək. Amma bu mövzu qlobal səhiyyə, beynəlxalq yardım və insan həyatının xilas edilməsinə ayıra biləcəyim vaxtın bir hissəsini aparır və həmin sahələrdə problemlər onsuz da kifayət qədərdir. Buna baxmayaraq, imkan düşdükcə müsahibələr verməyə, siyasi liderlərlə görüşməyə və mənfi nəticələri minimuma endirməyin yolları barədə açıq danışmağa davam edəcəyəm. Heç olmasa məlumatlılığı artırmaq lazımdır. İnsanların neçə nəfərinin bu il ərzində tədbir görəcəyimizə söz verdiyimiz bütün hədləri artıq keçdiyimizi bildiyinə əmin deyiləm.
Ötən rübdə, keçən ilin sonunda proqramlaşdırmanın necə inkişaf etdiyini görəndə heyrətə gəlmişdim: Claude-un imkanları, kontekst buferi, agent yanaşması, baza modelinin özü. Kodlaşdırmada nəhəng həddi keçdik. Cəmi bir neçə ay sonra başa düşdüm ki, bu yalnız proqramlaşdırmada dönüş nöqtəsi deyilmiş, eyni zamanda kiberhücumlar sahəsində də çox böyük hədd imiş. Nəticədə nə baş verdi? Demək olar heç nə.
Ona görə də bəli, mən ideal natiq deyiləm. Bilirsiniz, gəlin ideal natiqi tapaq və mən bütün fikirlərimi məmnuniyyətlə onunla bölüşüm. Bunu bir qədər istehza ilə deyirəm, çünki belə ideal natiqin ümumiyyətlə mövcud olduğuna əmin deyiləm. Hazırda texnologiyanı həqiqətən anlamaq və onun hansı trayektoriya ilə inkişaf etdiyini görmək kritik əhəmiyyət daşıyır. Kibertəhlükəsizlik, biotexnologiya və ya psixososial aspektlər barədə heç olmasa baza anlayışına malik olmaq lazımdır. İnsanlar bunu başa düşməlidirlər. Niyə buna daha çox diqqət ayırmadıqlarını bilmirəm.
