Süni intellekt sahəsində investisiya bumunun davam etdiyi bir vaxtda, sektorun aparıcı şirkətlərindən olan Anthropic bütün sənayeni yeni modellərin hazırlanma sürətini azaltmağa çağırıb.
Şirkətin həmtəsisçisi Cek Klark hesab edir ki, süni intellekt modelləri rekursiv özünüinkişaf mərhələsinə yaxınlaşır və bu, bəşəriyyət üçün ciddi risklər yarada bilər.
“Əgər sistemlər özləri yeni nəsillər yarada biləcək səviyyəyə çatarsa, onların təhlükəsizliyi, monitorinqi və davranışlarının idarə olunması indiki dövrlə müqayisədə daha vacib olacaq”, — deyə şirkətin məktubunda bildirilir.
Anthropic-in yaratdığı Claude modelinin inkişafında 2023-cü ildən bəri üç mərhələnin keçildiyi qeyd olunur: çatbot, proqramçı köməkçisi-agent və avtonom agent. Növbəti mərhələ isə “öz modellərini müstəqil şəkildə yarada və öyrədə bilən agentlərdən” ibarət qapalı inkişaf dövrəsidir.
Şirkətin məlumatına görə, hazırda Claude-un kodunun təxminən 80%-i süni intellekt tərəfindən generasiya olunur. Bu göstəricinin 100%-ə çatması üçün bir-iki ilin kifayət edə biləcəyi vurğulanır.
Anthropic etiraf edir ki, könüllü məhdudiyyətlərin tətbiqi çətin görünür. Şirkətin fikrincə, yeni modelin hazırlanmasını gizlətmək raket şaxtasının tikintisini gizlətməkdən daha asandır və yarış iştirakçılarından hər hansı biri fasiləyə əməl etməsə, rəqiblər üzərində üstünlük qazana bilər.
Bununla belə, Cek Klark hesab edir ki, sənaye üçün müəyyən çərçivələr formalaşdırılmalıdır. “Hazırda vəziyyət elədir ki, sənayenin qaz pedalı var, amma əyləc pedalı yoxdur”, — deyə o bildirib.
Anthropic hazırda təxminən 1 trilyon dollar dəyərləndirmə ilə IPO-ya hazırlaşır. Şirkət özünü süni intellekt bazarında ən məsuliyyətli oyunçulardan biri kimi təqdim edir və daha əvvəl fiziki süni intellekt agentlərinin əmək bazarına təsiri, eləcə də avtonom hərbi süni intellekt sistemlərinin riskləri barədə xəbərdarlıq edib.
