OMM Redaksiyası
“Google”un “Gemini” süni intellekt modeli kibertəhlükəsizlik testi zamanı üç şirkətin sistemlərinə daxil olub. Bu, şirkətin süni intellekt sistemlərinin belə fəaliyyəti avtonom şəkildə həyata keçirməsinin ilk məlum nümunəsi hesab edilir.
Hadisələr may ayında süni intellekt sistemlərini sınaqdan keçirən müstəqil şirkət “Irregular” tərəfindən aparılan qiymətləndirmə zamanı baş verib. “Google”un təhlükəsizlik mühəndisliyi üzrə vitse-prezidenti Hizer Adkinsin sözlərinə görə, “Gemini” internetdə açıq yayımlanan məlumatları tapıb və test çərçivəsinə daxil olduğunu düşündüyü üç veb-sayta giriş imkanı verən məlumatları təxmin edib.
Bir halda model qorunan sistemə daxil olana qədər parolları təxmin edib. Digər iki hal üzrə isə açıq repozitoriyada yerləşdirilən giriş məlumatlarını taparaq qorunan sistemlərə çıxış əldə edib. Adkins bildirib ki, “Gemini” hər üç halda haker fəaliyyətini dayandırıb.
“Google” hadisə ilə bağlı üç şirkətə məlumat verib və təlim tərəfdaşı ilə birlikdə sınaq proseslərində dəyişikliklər edib. Adkins qeyd edib ki, bu hallar güclü süni intellekt modellərinin məsuliyyətli davranması üçün təlimin vacibliyini göstərir.
“Irregular” şirkətinin nümayəndəsi problemin digər süni intellekt şirkətlərinə də təsir etdiyini bildirib. Müvafiq şirkətlərə iyulun sonunda məlumat verilib və məlum olan bütün problemlərin aradan qaldırıldığı qeyd olunub.
“Irregular” ilə əlaqəli oxşar hallar “Meta”, “Anthropic” və “OpenAI” tərəfindən də açıqlanıb. “Meta” avqust ayında hadisələrdən birində sandbox mühitindən kənara çıxış və ya mürəkkəb kibertəhlükə olmadığını bildirib.
Bu hadisələr süni intellekt agentləri daha avtonom olduqca və internetə, eləcə də kompüter sistemlərinə çıxış qazandıqca hansı təhlükəsizlik tədbirlərinin tələb olunduğu barədə suallar yaradıb. “Irregular” süni intellekt üzrə kibertəhlükəsizlik qiymətləndirmələrinin təhlükəsiz aparılması üçün ən yaxşı təcrübələr üzərində işlədiyini açıqlayıb.
