Süni intellekt (AI) sahəsində “Anthropic” və “OpenAI” kimi öncül şirkətlər texnologiyanın imkanlarını genişləndirməyə davam edir.
Banker.az xəbər verir ki, bu barədə nüfuzlu “The Economist” dərgisi yazır.
Lakin dərgi yazır ki, biznes avtonom AI agentlərinə qarşı getdikcə daha ehtiyatlı yanaşır.
Səbəb agentlərin hələ də kifayət qədər proqnozlaşdırıla bilməməsidir. Testlər zamanı onların yalan danışa, məlumat oğurlaya, saxta şəxsiyyətlər yarada, izlərini gizlədə və hətta nəzarətdən çıxa bildiyi müşahidə olunub.
Bu vəziyyət yeni bazarın yaranmasına səbəb olur. Şirkətlər AI üçün kibertəhlükəsizlik, girişə nəzarət, agentlərin etibarlılığının qiymətləndirilməsi, rəqəmsal identifikasiya, fövqəladə söndürmə və görünməyən səhvlərin aşkarlanması sistemləri hazırlayırlar.
Jurnal əlavə edir ki, bu sahə növbəti böyük investisiya istiqamətlərindən birinə çevrilə bilər. AI əsaslı kibertəhlükəsizlik artıq sürətlə inkişaf edir və vençur kapitalı AI-ni daha etibarlı edən infrastruktura yönəlir.
Başqa sözlə, biznes AI agentlərinə real və genişmiqyaslı tapşırıqları etibar etməzdən əvvəl onların ətrafında özünəməxsus nəzarət və təhlükəsizlik sistemi qurmalı olacaq.
