Google-un Gemini süni intellekt modeli may ayında kibertəhlükəsizlik sistemlərinin sınaqları zamanı bilmədən üç korporativ sistemi sındırıb, Bloomberg yazır. Bu insidentlər avtonom süni intellekt agentlərinin həyata keçirdiyi hücumlar silsiləsinə əlavə olunub və həm təhlükəsizlik mütəxəssisləri, həm də bu texnologiyanın tərtibatçıları arasında narahatlıq yaradıb.
Sındırılmalar süni intellekt təhlükəsizliyi üzrə ixtisaslaşmış Irregular şirkətinin keçirdiyi eyni sınaqlar çərçivəsində baş verib. Həmin sınaqlar daha əvvəl OpenAI və Anthropic PBC sistemlərində də zəifliklər aşkarlamışdı. Cümə günü Irregular nümayəndələri bütün bu insidentlərin eyni problemlə əlaqəli olduğunu və şirkətin iyulun sonunda müvafiq süni intellekt tərtibatçılarını bu barədə məlumatlandırdığını təsdiqləyiblər.
Sistemin sındırıldığı hallardan biri Gemini-yə uydurma bir şirkət haqqında məlumat tapmaq tapşırıldıqda baş verib. Həmin şirkətin adı real mövcud olan bir firmanın adı ilə üst-üstə düşüb. Google bunu Wall Street Journal-da müvafiq məqalə dərc edildikdən sonra təsdiqləyib.
Model real şirkətin xidmətinə giriş üçün parolu müəyyən edib. Google nümayəndəsi bildirib ki, şirkət insident barədə müvafiq qurumları məlumatlandırıb.
Gemini ilə bağlı sındırılma insidentləri “güclü süni intellekt modellərinin məsuliyyətli davranacaq şəkildə öyrədilməsinin vacibliyini vurğulayır”, – Google-un təhlükəsizlik üzrə vitse-prezidenti Hizer Adkins bildirib.
Gemini-nin iştirakı ilə digər sındırılma halları model şirkətin adı üzrə internetdə axtarış apararkən baş verib. Adkinsin sözlərinə görə, bu, modeli digər şirkətlərin giriş məlumatlarının saxlandığı açıq onlayn repozitoriyalara yönəldib. Süni intellekt həmin məlumatlardan əlavə sistemlərə giriş əldə etmək üçün istifadə edib.
“Üç halın hamısında modelin fəaliyyəti dayandırılıb”, – Adkins bildirib. “Biz hər üç təşkilatın insidentlər barədə məlumatlandırılmasını təmin etdik.”
Irregular nümayəndəsi Yozef Laor isə şirkətin “dərhal tədbirlər gördüyünü” və aşkarlanmış bütün problemlərin bir neçə həftə əvvəl aradan qaldırıldığını bildirib.
Avtonom süni intellekt sistemlərinin həyata keçirdiyi son sındırılmalar silsiləsi süni intellektlə bağlı artan risklər və onların necə azaldılması barədə qlobal müzakirələrə səbəb olub.
Anthropic-in baş direktoru Dario Amodei bütün sənaye üzrə bu texnologiyanın inkişaf tempinin azaldılmasına çağırıb. Bu təklifi OpenAI rəhbəri Sem Altman, İlon Mask və digərləri də dəstəkləyiblər.
Eyni zamanda ABŞ prezidenti Donald Tramp və Nvidia Corp.-un baş direktoru Censen Huanq yeni tənzimləmələrin tətbiqinə qarşı çıxıblar. Onlar, o cümlədən, şirkətlərin özlərini tənzimləmək imkanına malik olmalı olduqlarını əsas gətiriblər.
Süni intellekt sahəsində fəaliyyət göstərən bəzi startaplar da xəbərdarlıq edirlər ki, qaydaların sərtləşdirilməsi iri oyunçularla rəqabət aparan kiçik şirkətlərin işini çətinləşdirə bilər.
