“iPhone-un yaranması ilə müqayisə oluna biləcək dönüş hələ qarşıdadır”: Sem Altman niyə kompüterdən köhnə üsulla istifadə edir, platforma şirkəti qurmaq istəyir və “qeyri-xətti” düşünən insanları yüksək qiymətləndirir
Məndəki ən qəribə psixoloji ziddiyyət ondan ibarətdir ki, artıq 20 ildir kompüterdən eyni üsulla istifadə edirəm. Halbuki indi Codex adlı sehrli bir alətim var. Məntiqlə mən artıq kompüterdən tamamilə başqa cür istifadə etməliyəm.
Kursoru ekranda ora-bura aparmamalı, bir messencerdən digərinə nəsə kopyalamamalıyam. Heç bir həvəsim olmadığı halda, hansı məktubun mənə daha az mənfi emosiya yaşadacağını təxmin etməyə çalışaraq elektron poçtumu düşünmədən vərəqləməməliyəm. Yəni bütün bu illər ərzində etdiyim işləri əvvəlki kimi davam etdirməməliyəm.
Amma sanki beynimdə bərk kök salmış bir fikir var: “məhsuldar olmaq” məhz belə görünür. Məndən bu şəkildə işləməyin xoşuma gəlib-gəlmədiyini soruşsanız, heç vaxt “bəli” demərəm. Axı daha yaxşı üsul var. Codex ilə məktubları daha tez emal edə, görüləcək işlər siyahısını daha sürətlə bağlaya bilərəm. Bəs niyə hələ də kompüterdən köhnə üsulla istifadə edirəm? Bunun məntiqli izahı yoxdur. Yalnız ehtimal edə bilərəm ki, şüuraltı olaraq bundan müəyyən zövq alıram.
Bilmirəm, bunun dəyişməsi üçün nə baş verməlidir. Yəqin ki, hər şeyin öz vaxtı var. Dərin kök salmış vərdişləri və prosesləri dəyişmək çox çətindir.
İnanıram ki, eyni texnologiya əsasında bu keçidi daha rahat edəcək məhsullar hazırlayacağıq. Hazırda sanki iki dünyanın arasında qalmışıq: bir tərəfdə əvvəlki üsulla istifadə edə bildiyimiz kompüter var, digər tərəfdə isə kompüterdən bizim əvəzimizə istifadə edə bilən Codex. Sadəcə olaraq, biz hələ nəyi nə vaxt istifadə etməli olduğumuzu anlamamışıq. Məncə, bu, ilk növbədə məhsul baxımından uğursuzluqdur.
“Hazırkı mərhələ iPhone-dan əvvəlki dövrü xatırladır. Texnologiyalar sanki artıq mövcud idi, amma iPhone-u məhz ‘iPhone’ edən məhsul ideyaları çatışmırdı. İndi də eyni vəziyyətdir: bütün komponentlər yerindədir, lakin insanın texnologiya ilə qarşılıqlı əlaqəsini kökündən dəyişəcək dönüş hələ baş verməyib”.
“Biz məhsul şirkətindən daha çox platforma şirkəti olmalıyıq”
Əvvəllər bizdə ChatGPT, Codex və API var idi. Yeri gəlmişkən, Codex adı o qədər də uğurlu deyil, çünki o, yalnız kodlaşdırma üçün deyil, demək olar ki, istənilən iş tapşırığı üçün nəzərdə tutulmuşdu. Lakin bu yaxınlarda çat-botu və Codex-i birləşdirdik.
Əlbəttə, biz “məhsullar” yaratmağa davam edəcəyik. Sadəcə insanların əksəriyyətinə istənilən məsələdə kömək edə biləcək şəxsi AGI-yə, yəni ümumi süni intellektə və ya şirkətlərinin AGI-sinə çıxış verən vahid interfeys, eləcə də öz alətlərini yaratmaq üçün API lazımdır.
Biz bütün qiymət seqmentlərində keyfiyyətli süni intellekt təqdim edəcəyik. Elmi kəşflər üçün ən güclü süni intellekt lazımdır? Buyurun. “Dahi” səviyyəli intellekt tələb etməyən böyük həcmli rutin işlər üçün ən ucuz variant lazımdır? O da olacaq. Bunların hamısı vahid interfeysdə birləşdiriləcək və bu interfeys zaman keçdikcə daim əlçatan olan şəxsi agentə daha çox bənzəyəcək.
“Böyük məqsəd naminə yaxşı ideyanı öldürmək də bacarıqdır”
Şəxsən mən bütün mümkün kateqoriyalarda məhsullar yaratmaq istəmirəm. Bütün iqtisadiyyatı özümüzə çəkmək üçün bütün müştərilərimizlə rəqabət aparmağa çalışmağın mənasını görmürəm. Biz istifadəçilərə haqqında danışdığım platformanı verməli və onun köməyi ilə dünyada 100 milyon yeni şirkətin yaranmasına, 8 milyard insanın isə platformadan istifadə etmək üçün yeni üsullar tapmasına şərait yaratmalıyıq.
Yaxşı ideyaları “basdırmaq”, yaxşıdan böyük məqsəd naminə imtina etmək hər bir sahibkar üçün ən çətin dərslərdən biridir. Bu, həqiqətən çətindir və şəxsən məndə də yaxşı alınmır. Məsələn, 2025-ci ildə Sora-nı bağladıq. Yaxşı və əyləncəli məhsul idi, amma çox hesablama resursu tələb edirdi və bizim üçün hesablama güclərini yönəltdiyimiz Codex qədər vacib deyildi.
Atlas brauzerini də bağladıq. Yenə də deyirəm, əla məhsul, ən yaxşı brauzer idi. Amma resurslarımızın məhdud olduğu şəraitdə uzun müddət düşündük və qərara gəldik ki, edə biləcəyimiz ən vacib iş zehni əmək üçün universal intellekt yaratmaqdır. Buna kömək edən hər şey — öz çiplərimiz və məlumat mərkəzlərimiz, yüksək keyfiyyətli infrastruktur proqram təminatı və modellərin öyrədilməsi — prioritetdir. Eyni anda hər istiqamətə dağılmaq lazım deyil.
“Qeyri-xətti düşüncə son dərəcə dəyərli bacarıqdır”
Biznes və dünyanın necə işlədiyi barədə ən çox dərsi Pol Qrem və Piter Tillə ünsiyyətdən öyrənmişəm. İndiyədək çıxılmaz vəziyyətə düşəndə onların yanına gedirəm. Nə qədər axtarsam da, onlar qədər qeyri-xətti düşünməyi bacaran insanlara rast gəlməmişəm. Bu, son dərəcə dəyərli bacarıqdır.
Böyük dil modelləri növbəti sözü proqnozlaşdırır, amma bu iki insanın növbəti dəfə nə deyəcəyini proqnozlaşdırmaq çox çətindir. Onların yanına gəlib deyirsən: “Bütün variantları nəzərdən keçirmişəm”. Cavab verirlər: “Onların heç biri işə yaramır. Həll budur”. Sonra sənə elə gəlir ki, cavab bütün bu müddətdə gözünün qabağında olub, amma özün onu görə bilməmisən.
ChatGPT istifadəyə veriləndən sonra insanlar əvvəlcə ondan hansı məqsədlər üçün istifadə etməli olduqlarını tam anlamırdılar. Məhsul sürətlə böyüyürdü, amma bu artımın dayanıqlı olmadığı, məhsulun dəyərinin isə minimal olduğu təəssüratı yaranırdı. İnsanlar sadəcə maraq üçün qoşulurdular: botla danışmaq, onun nə bacardığını görmək istəyirdilər.
Şirkətdə bir çoxları deyirdi ki, daha irəli düşünmək, məhsulun dəyərini möhkəmləndirmək lazımdır. Elə görünürdü ki, istifadəçini məhsula bağlayan hansısa mexanizm mütləq olmalıdır. Məsələn, sosial şəbəkələrdəki tövsiyə lentləri kimi. Bizdə isə belə heç nə yox idi, hətta “Yaddaş” funksiyası da mövcud deyildi.
“Mən diqqət yetirə biləcəyimiz ideyalarla Piterin yanına getdim, amma o dedi: ‘Məhsulun böyüməsinə ikiqat mərc etmək lazımdır. Artımın özü nadir və dəyərli haldır. Başqa bir şey etməyə çalışmaq səhvdir. Məhsulunuzun gücü Google-un axtarış sətrinin gücünün olduğu yerdədir. İnsanın qarşısında boş sahə var, ora istədiyi hər şeyi yaza və əvəzində lazım olan cavabı ala bilər. Məhsulun hazırda Silikon Vadisinin mövcud kanonlarına uyğun gəlməməsinin heç bir əhəmiyyəti yoxdur’. Mən razılaşdım və bu mərc özünü doğrultdu”.
Pola gəlincə, startaplara “məhsulun ilk versiyasını mümkün qədər tez, hələ onu göstərməyə utandığın vaxtda buraxmaq lazımdır” prinsipini böyük ölçüdə məhz o öyrədib.
İstifadəçilərdən alınan ilk geribildirim məhsulu yaxşılaşdırmağa, özü də bunu xeyli sürətlə etməyə kömək edir. Hətta ChatGPT-ni buraxıb-buraxmamağımız barədə ondan nə vaxtsa soruşduğumu xatırlamıram. Cavabı əvvəlcədən bilirdim.
“Uğurdan çıxarılan dərslər uğursuzluq dərslərindən daha faydalıdır”
OpenAI tarixindən ən parlaq xatirələrimdən birini bölüşüm. 2015-ci ilin sonları idi. Şirkət yenicə yaradılmışdı. İlk iş günü Yeni ildən dərhal sonra — yanvarın 4-ü, saat 9:30-da başladı. Təxminən 12 nəfər Qreq Brokmanın evinə gəlmişdi. Hamı ilk məktəb günündəki kimi həyəcanlı idi. Sonra isə bir-birimizə baxıb soruşmağa başladıq: “İndi nə edirik?”
Kimsə qərara gəldi ki, bizə markerlə yazılan lövhə lazımdır. Lövhəni tapdıq. Sonra nə? Mən o anda həvəsin sanki gözümün qarşısında yox olduğunu hiss etdim. Bu, müştərilərlə danışmağa gedə biləcəyimiz məhsul startapı deyildi. Heç kim nə etməli olduğunu bilmirdi.
Düşünməyə başladıq. Yaxşı, AGI yaratmağa qərar vermişik. Bəlkə bir neçə elmi məqalə yazaq? Yazaq. Bəlkə beyin həmləsi keçirək? Keçirək. Yəqin ki, hər kəs həyatında ən azı bir dəfə baş verənləri tamamilə anlamadığı vəziyyətlə üzləşib. Məhz belə vəziyyət idi.
Nəticədə bacardığımız işləri görməyə başladıq. Proses zamanı bir çox ideyanın işləmədiyini gördük. Sonra tədqiqat hipotezləri irəli sürüb nəticələri qiymətləndirə bildiyimiz müəyyən iş ritmi formalaşdırdıq. İdealdan çox uzaq idik, amma heç olmasa yerimizdə saymırdıq və zaman keçdikcə ağıllı insanları lazımi resurslarla necə təmin etməyi və eyni zamanda istiqaməti itirməməyi öyrəndik.
Bir neçə il ərzində, tez-tez büdrəyərək, əsas kəşflərin böyük hissəsini etdik. Məsələn, işarələnmiş məlumatlar üzərində xüsusi öyrətmə aparmadan mətnin emosional tonunun müəyyənləşdirilməsi ilə bağlı işimiz bizi GPT-1-ə, daha sonra isə çoxsaylı digər GPT modellərinə gətirib çıxardı.
Böyük rus romanlarından biri — adını unutduğum üçün çox utanıram — belə başlayır: “Bütün xoşbəxt ailələr bir-birinə bənzəyir, hər bədbəxt ailə isə özünəməxsus şəkildə bədbəxtdir”. Söhbət Lev Tolstoyun “Anna Karenina” romanından gedir.
Uğursuzluqlarımı təhlil edəndə dözümlülük, inadkarlıq və nələri etməmək barədə müəyyən ümumi nəticələr çıxarıram. Amma uğursuzluğun səbəbləri o qədər çox ola bilər ki, onların arasında əsas olanı dəqiq müəyyənləşdirmək çətin olur.
Buna görə də şəxsən mənim üçün uğurdan çıxarılan dərslər “anti-dərslərdən” xeyli faydalı olub. Uğursuzluqdan çıxarılan nəticələr çox vaxt həddindən artıq ümumi olur və bəzən hətta eksperiment aparmağa mane olur. Düşünürəm ki, çoxları bununla razılaşar.
“Yüksəkliklərə ümumi qəbul olunmuş fikrə qarşı getməyə hazır olanlar çatır”
Biz fəaliyyətə başlayanda insanlar AGI-nin yaradılmasını son dərəcə az ehtimallı, demək olar ki, mümkünsüz hesab edirdilər. Qarşımıza belə məqsəd qoyduğumuza görə bu sahənin demək olar bütün aparıcı ağılları bizi sərt tənqid edirdi. Böyük dil modelləri ilə məşğul olmağa başlayanda da eyni münasibətlə üzləşdik.
Biz isə anlayırdıq ki, uğur qazandığımız halda əldə ediləcək dəyər də çox yüksəkdirsə, yüksək riskli mərclər özünü doğruldur. Görkəmli tədqiqatçılara adətən ümumi qəbul olunmuş fikrə qarşı getməyə hazır olan insanlar çevrilirlər. Onların baxışı təzədir, enerjiləri çoxdur. Onlar standart deyillər.
Biznesdə də eyni şeydir. Əvvəllər min dəfə eşitdiyin ideyanın bir qədər dəyişdirilmiş versiyasını təqdim edən təsisçiyə niyə investisiya qoyasan? Onlar istədikləri qədər səni və ya daha çox özlərini bunun yeni bir şey olduğuna inandıra bilərlər, amma əslində sadəcə sürüdən ayrılmamağa və “belə etmək lazımdır” deyilən işi görməyə çalışırlar: startap yaradırlar.
Onlar Piter Tili dinləyirlər, o isə şablonları unutmağa çağırır, sonra bunu təqlid etməyə çalışırlar. Amma həqiqətən fərqli düşünən insan dərhal görünür. O, populyar olmayan inanclarını müdafiə etməyə hazırdır və səhv edə bilər. Sadəcə haqlı çıxarsa, çox böyük miqyasda haqlı çıxacaq.
“Kaş məndən daha çox görən və anlayan süni intellekt agentim olaydı”
Son nəsil modellər artıq kifayət qədər ağıllıdır, amma hər zaman inkişaf etmək üçün yer var. Məsələn, hiss edirəm ki, məni məhdudlaşdıran əsas məsələ modelin “ağlı”ndan çox, mənim haqqımda malik olduğu faydalı kontekstin həcmidir. İstəyirəm ki, süni intellekt mənim haqqımda mümkün qədər çox şey bilsin və bunun sayəsində mənə daha effektiv kömək etsin. Mənim edə bilmədiyim və ya sadəcə etmək istəmədiyim işləri görsün.
Mən korporativ Slack-dəki hər müzakirə zəncirini oxuya bilmərəm. ChatGPT-nin harada müştəriyə kömək etdiyi, harada isə məyus etdiyi barədə göndərilən bütün məktublarla tanış ola bilmərəm. Bütün elmi işləri oxuya bilmərəm. Fiziki olaraq buna imkanım yoxdur.
Amma mənim görə və anlaya bildiyimdən daha çox konteksti görən və anlayan, mənim vaxtımın və gücümün çatmadığı məlumatları emal edən bir süni intellekt agentim ola bilərdi. Sonra isə ciddi qərar verməli olduğum zaman mənə uyğun və faydalı məsləhət verərdi.
Modellərin intellektinə fokuslanmaqla düzgün addım atmışıq, amma məhsul baxımından hələ “modelə insanın yadda saxlaya biləcəyindən daha çox kontekst verməyin” nə demək olduğu barədə kifayət qədər düşünməmişik.
“Bütün nəticələri əvvəlcədən hesablamağa çalışaraq laboratoriyada sonsuza qədər otura bilmərik”
Məni ən çox narahat edən və eyni zamanda müəyyən mənada bir-birinə zidd olan risklər bunlardır:
- Süni intellekt o qədər güclü olur ki, insan üçün istədiyimiz nəzarət səviyyəsini təmin edə bilmirik.
- Hakimiyyətin bir şirkətin, bir insanın və ya bir modelin əlində həddindən artıq cəmlənməsi.
Hər iki halda mənim üçün fundamental problem eynidir: belə gələcək insan əleyhinədir.
Düzgün yanaşma belə olmalıdır: biz istəyirik ki, gələcəyə insanlar nəzarət etsin. Onlara daha çox imkan və təsir gücü verilməlidir. Hər şeyin mənası insandır. Amma əks mövqedə duranlar da var: insanlar etibarlı deyil, buna görə də həm texnologiyaya çıxış əldə edəcək şəxslərin dairəsini, həm də onların texnologiya ilə necə qarşılıqlı əlaqədə olacağını məhdudlaşdırmalıyıq.
Çox sadələşdirsək, fikir belə səslənir: “Biz bütün xəstəliklərin dərmanını verəcəyik və məhsulları maksimum ucuzlaşdıracağıq, amma bunun müqabilində insanlar müstəqillikdən, gələcəyə təsir imkanından və hakimiyyətdən imtina etməlidirlər”. Bütün bunlar da guya yalnız təhlükəsizlik naminə edilir.
Bu, insan əleyhinə təklifdir, amma bəziləri belə addım atmağa da hazırdır. Yəqin ki, qorxu səbəbindən. Süni intellekt risklərinin miqyası bir çox insanı o qədər qorxudur ki, bütün dünyanı bu risklərdən “qorumağın” təcili zərurət olduğunu düşünürlər. Sadəcə ona görə ki, bu təhlükələr keçmişdə qarşılaşdıqlarımıza bənzəmir.
Bir tərəfdən razıyam: bu, çox güclü texnologiyadır və mübahisəli hallarda artıq ehtiyatlı davranmaq daha yaxşıdır. Amma problemin həllolunmaz olması fikri ilə mübahisə edərdim. Biz başlayanda çoxları heç vaxt AGI yarada biləcəyimizə inanmırdı, yaratsaq belə onun təhlükəsizliyini təmin edə bilməyəcəyimizi düşünürdü. İndi isə əlimizdə o dövrün bir çox skeptikinin AGI-yə bənzər hesab edəcəyi bir şey var. Dünyanın sonu da gəlməyib, deməli, proqnozlara yenidən baxmağın vaxtıdır.
İlk modellərimizi və ChatGPT-ni istifadəyə verəndə onların ideal olmadığını bilirdik. Amma eyni zamanda anlayırdıq ki, dünya bu texnologiya ilə qarşılıqlı əlaqə təcrübəsi əldə etməlidir, biz isə həmin təcrübə əsasında onu təhlükəsiz etməyin yolunu tapmalıyıq.
Biz laboratoriyada sonsuza qədər oturub bütün nəticələri əvvəlcədən hesablamağa çalışa bilmərik. Onsuz da bunu edə bilməyəcəyik, çünki cəmiyyət və modellər birlikdə inkişaf edəcək. Bu yolu da birlikdə keçməliyik — sanki ortaq bir məhsul yaradırıq.
