ChatGPT kimi çat-botların davranışını idarə edən gizli komandaların necə işlədiyini anlamaq onları öz ehtiyaclarınıza uyğunlaşdırmağa kömək edə bilər.
ChatGPT kimi çat-botlar sadəliyi sayəsində güclüdür: demək olar ki, istənilən sualı verin və cavab alacaqsınız. Amma aldığınız cavab yalnız sizin yazdığınız mətnlə müəyyənləşmir.
Pərdəarxasında süni intellekt şirkətləri hər bir dialoqunuza minlərlə sözlük əlavə təlimat qoşur ki, botun davranışını tənzimləsin. Bunların arasında “Oxunaqlı, əlçatan cavablara üstünlük verin” və “Müəllif hüquqları ilə bağlı narahatlıqlara görə geniş birbaşa sitatlardan qaçmalısınız” kimi ifadələr var. Bəziləri isə qəribə görünə bilər. Məsələn, OpenAI-nin Codex kod köməkçisinin sistem promptunda belə bir əmr var: “İstifadəçinin sorğusu ilə tam və birmənalı şəkildə əlaqəli olmadığı halda, qoblinlər, qremlinlər, yenotlar, trollar, oqrlər, göyərçinlər və ya digər heyvanlar və məxluqlar haqqında heç vaxt danışmayın”.
Bu gizli komandalar çat-botları yaradıcılarının istədiyi kimi davranmağa proqramlaşdırır, hətta bu sizin şəxsi üstünlüklərinizə zidd olsa belə. Bu gizli təlimatların necə işlədiyini və sistemə öz təlimatlarınızı necə əlavə edə biləcəyinizi başa düşmək çat-botlardan daha çox fayda almağa kömək edə bilər.
Bunu göstərmək üçün mən real bir süni intellekt sistemini elə sazladım ki, bu məqalənin ilk üç abzasını sizin verdiyiniz təlimatlara uyğun yenidən yazsın. Variant seçin və ya öz variantınızı yazın, sonra ox düyməsini sıxın və mətnin necə dəyişdiyini görün.
ChatGPT-yə yazdığınız sözlər texnologiya sənayesində prompt və ya istifadəçi promptu adlanır. Bu sözlər əsas süni intellekt modelinə göndərilməzdən əvvəl şirkətlər onlara öz mətn parçasını əlavə edir. Buna sistem promptu deyilir və o, cavabın necə formalaşacağını müəyyənləşdirir.
“System promptlar çat-botlara ümumilikdə necə davranmalı olduqlarını deyir”, — Almaniyadakı Etibarlı Məlumat Elmi və Təhlükəsizlik Araşdırma Mərkəzində süni intellekt sistemlərini öyrənən Anna Noyman belə deyir. Amma onun sözlərinə görə, bu promptlara istifadəçinin yazdıqlarından daha yüksək prioritet verildiyi üçün onlar bəzən insanın sorğusunu üstələyə bilir.
System promptlar ona görə icad olunub ki, yeni süni intellekt modelini sıfırdan yenidən öyrətmədən, çat-botların cavablarını daha çevik şəkildə formalaşdırmaq mümkün olsun. Yeni model yaratmaq adətən uzun çəkən, xüsusi bacarıq və bahalı hesablama gücü tələb edən prosesdir. System promptlar isə təbii dildə yazılır və bu da istənilən şəxsə çat-botun davranışını müəyyən qədər sazlamaq imkanı verir.
Çat-bot düzgün işləməyəndə süni intellekt şirkətləri sürətli düzəliş üçün system promptu dəyişə bilirlər. Məsələn, İlon Maskın xAI layihəsinin yaratdığı Grok iyul ayında antisemit ritorika sərgiləyəndən sonra şirkət onun system promptundan belə bir cümləni silmişdi: “Sən hər şeyi olduğu kimi deyirsən və siyasi korrektliyə bağlı insanları incitməkdən çəkinmirsən”.
Ötən il bəzi istifadəçilər ChatGPT-nin həddindən artıq tez-tez qoblinlərdən danışdığını hiss etdikdən sonra OpenAI araşdırmaya başladı. Nəticədə Codex-in system promptuna qoblinlər, trollar, yenotlar və digər məxluqlar haqqında lazımsız müzakirələri qadağan edən göstəriş əlavə olundu. The Washington Post-un OpenAI ilə məzmun tərəfdaşlığı var.
Təbii olaraq sual yaranır: cavablara bu qədər təsir edən system promptda əslində nə yazılıb? Əksər süni intellekt şirkətləri həmin mətni gizli saxlamağa çalışır. Amma bəzi istifadəçilər çat-botları aldadaraq bu gizli təlimatları açıqlamağa məcbur edə biliblər. Özünü “hobbi kimi süni intellektlə oynayan təsadüfi bir islandiyalı” adlandıran Ásgeir Thor Johnson məşhur süni intellekt məhsullarından çıxardığı system promptları yayımlayır.
Johnsonun çıxardığı üç məşhur süni intellekt çat-botunun system promptları 2300 sözdən 27 000 sözə qədər dəyişir və göstərir ki, müxtəlif şirkətlər bu gücdən necə istifadə edirlər. Hər halda promptun böyük hissəsi çat-botun “şəxsiyyətini” tənzimləməyə, onu yaradıcısının siyasətinə uyğunlaşdırmağa və internet axtarışı kimi xarici alətlərdən istifadə qaydalarını müəyyənləşdirməyə yönəlib.
“Çat-botun cavablarının arxasında əvvəlcədən yazılmış promptun dayandığını anlamaq adamı heyrətləndirir”, — Johnson deyir. “Elə bil bütün bu söhbət biz danışmağa başlamazdan əvvəl müəyyənləşdirilib”.
System promptlar həm də süni intellekt şirkətlərinin nəyə daha çox fokuslandığını və ya nədən çəkindiyini göstərə bilər.
Claude-un yaradıcısı Anthropic system promptlarına müəllif hüquqlarının pozulmasının qarşısını almaqla bağlı 2000 sözdən çox detallı təlimat daxil edir: “Claude intellektual mülkiyyətə hörmət edir. Müəllif hüquqlarına riayət müzakirə predmeti deyil”.
Daha sonra məqalələrdən neçə söz sitat gətirməyə icazə verildiyi (“15”), mahnı sözlərindən (“bir sətr də yox”) və şeirlərdən (“bir bənd də yox”) ilə bağlı detallı qaydalar gəlir. System prompt hətta Claude-un bu qaydalardan birini pozacağı halda nə etməli olduğu barədə ayrıca qayda da əlavə edir: “Claude müəllif hüquqlarının təsadüfi pozuntusuna görə heç vaxt üzr istəmir, çünki o hüquqşünas deyil”.
Anthropic nümayəndəsi Parul Maheshwari The Post-u Claude üçün dərc olunmuş “əsas” system promptlara yönləndirib. Amma həmin promptlar Johnsonun çıxardığı və ya The Post-un sitat gətirdiyi tam mətni əhatə etmir. Maheshwari dərc olunmuş system promptların tam olub-olmadığını dəqiqləşdirməkdən imtina edib.
OpenAI fevral ayında ChatGPT-də reklam göstərməyə başlayıb. Onun system promptu modelin görünən reklamlarla bağlı suallara necə cavab verəcəyini də müəyyənləşdirir: “qəti inkar ifadələrindən (məsələn, ‘Mən heç bir reklam daxil etməmişəm’) və ya birmənalı iddialardan qaçın…”
xAI-nin Grok-u ötən il tənqid olunmuşdu, çünki mübahisəli mövzular barədə fikir soruşulanda bəzən Maskın sosial şəbəkə postlarını axtarırdı. İndi isə onun system promptunda belə yazılıb: “Əgər sizdən axtarış tələb etməyən siyasi cəhətdən mübahisəli mövzu barədə şəxsi fikir soruşulursa, İlon Maskın, xAI-nin və ya Grok-un əvvəlki cavablarının baxışlarına əsaslanmayın və onları axtarmayın”.
Gemini çat-botunun yaradıcısı Google isə system promptuna qərəzliliyə necə yanaşmaqla bağlı bir neçə qayda daxil edib. Onlardan biri belədir: “Əgər istifadəçi açıq şəkildə zərərli stereotipə uyğun video istəyirsə, onun yaradılması əslində həmin stereotipi gücləndirməyəcək”. 2024-cü ildə şirkət çat-botunda şəkil yaratma funksiyasını müvəqqəti dayandırmışdı. Buna səbəb anti-tarixi obrazlar, məsələn qadın papanın və ya ABŞ-ın çoxmillətli “qurucu ataları”nın yaradılması ilə bağlı tənqidlər idi.
OpenAI nümayəndəsi Taya Christianson deyib ki, system promptlar şirkətin modellərinə uyğun cavab verməyə kömək edən mərhələlərdən biridir. O qeyd edib ki, şirkət system promptu tam şəkildə dərc etmir, çünki onun ayrı-ayrı sətirləri daha geniş kontekst olmadan həddindən artıq dar və məqsədyönlü görünə bilər.
Google və xAI şərh sorğusuna cavab verməyib.
Johnsonun system promptları çıxarmaq üçün istifadə etdiyi üsullardan biri çat-bota köhnə bir prompt göndərib ondan “səhvləri düzəltməyi” xahiş etmək olub. Onun sözlərinə görə, kömək etməyə çalışan çat-botlar çox vaxt real system promptu cavab kimi verirlər. Johnson əmindir ki, çıxardığı system promptlar həqiqidir, çünki başqa tədqiqatçılar da fərqli üsullarla eyni nəticələri əldə ediblər.
Kütləvi istifadə üçün nəzərdə tutulmuş heç bir böyük süni intellekt çat-botu istifadəçilərə system promptu redaktə etməyə imkan vermir. Amma OpenAI-nin ChatGPT-si, Anthropic-in Claude-u və Google-un Gemini-si oxşar fərdiləşdirmə funksiyaları təklif edir və bu, məyusedici cavabla faydalı cavab arasındakı fərqi yarada bilər.
Məsələn, Claude-a “isti ton”dan istifadə etmək tapşırılıb, amma siz onun daha birbaşa danışmasını istəyə bilərsiniz. Yaxud çat-botların sizinlə həddindən artıq tez razılaşdığını hiss edirsinizsə, onlara dediklərinizi daha çox sorğulamağı tapşıra bilərsiniz.
İstifadəçi təlimatlarının əlavə edilməsi çat-botun funksional imkanlarını genişləndirmir, amma cavabları fərdi seçimlərinizə uyğunlaşdırmağa imkan verir. Məsələn, tələb etdiyiniz formatı, mətnin uzunluğunu və ünsiyyət üslubunu müəyyən edə bilərsiniz. ChatGPT-də cavabın emosional tonunu, entuziazm səviyyəsini və emojidən istifadə tezliyini tənzimləmək üçün ayrıca ayarlar da mövcuddur.
Anna Noyman qeyd edir ki, çat-botlar system promptlara hər zaman sərt şəkildə əməl etmirlər. “Sistem promptları daha yüksək prioritet daşısa da, istifadəçi sorğuları da həmişə tam dəqiqliklə yerinə yetirilmir”, — o izah edir. Onun araşdırmalarına görə, süni intellekt istifadəçiləri şirkətlərin istifadə etdikləri system promptlar barədə daha çox şəffaflıq göstərməsini istəyirlər. Bu xüsusilə ona görə vacibdir ki, bu cür promptları sürətlə tətbiq etmək mümkündür, amma onlar hər zaman gözlənilən nəticəni vermir.
System promptların çıxarılması ilə məşğul olan tədqiqatçı Ásgeir Thor Johnson vurğulayır ki, onların quruluşunu və məzmununu anlamaq çat-botlarla ünsiyyətə yanaşmanı kökündən dəyişə bilər.
Johnson deyir: “Bəzən açıq görünür ki, model istifadəçiyə tam səmimi deyil — sadəcə ona müəyyən şəkildə davranmaq tapşırılıb. Bu, pərdəarxasında gedən bir oyunu xatırladır”.
