OMM Redaksiyası
Google-un “Gemini” süni intellekt modeli kibertəhlükəsizlik sınağı zamanı üç şirkətin sistemlərinə daxil olub. Bu, şirkətin süni intellekt sistemlərinin belə fəaliyyəti müstəqil şəkildə həyata keçirməsinin ilk məlum nümunəsi hesab olunur.
Hadisələr may ayında süni intellekt sistemlərini sınaqdan keçirən müstəqil şirkət “Irregular” tərəfindən təşkil edilən kibertəhlükəsizlik qiymətləndirməsi zamanı baş verib. Google-un təhlükəsizlik mühəndisliyi üzrə vitse-prezidenti Heather Adkinsin sözlərinə görə, “Gemini” internetdə açıq olan məlumatları tapıb və sınağın əhatə dairəsinə daxil olduğunu düşündüyü üç internet saytına giriş verən məlumatları təxmin edib.
Google üç şirkətə baş verənlər barədə məlumat verib və təlim tərəfdaşı ilə birlikdə sınaq proseslərinə dəyişikliklər edib. Heather Adkins bildirib ki, bu hadisələr güclü süni intellekt modellərinin məsuliyyətli davranmaq üçün hazırlanmasının vacibliyini göstərir.
“Irregular” şirkətinin nümayəndəsi problemin digər süni intellekt şirkətlərinə də təsir etdiyini və müvafiq qurumlara iyulun sonunda məlumat verildiyini açıqlayıb. Nümayəndənin sözlərinə görə, məlum olan bütün problemlər sonradan aradan qaldırılıb.
“Irregular” ilə əlaqəli oxşar hadisələr “Meta”, “Anthropic” və “OpenAI” tərəfindən də açıqlanıb. “Meta” avqust ayında bildirmişdi ki, hadisələrdən biri sandbox mühitindən çıxış və ya mürəkkəb kiberhücumla bağlı olmayıb.
“Irregular” süni intellekt sistemlərinin kibertəhlükəsizlik üzrə qiymətləndirilməsinin təhlükəsiz aparılması üçün ən yaxşı təcrübələr üzərində işlədiyini bildirib. Hadisələr internetə və kompüter sistemlərinə çıxış əldə edən daha avtonom süni intellekt agentləri üçün hansı qoruyucu mexanizmlərin zəruri olduğu barədə suallar yaradıb.
Hadisə barədə ilk məlumatı yayımlayan “Wall Street Journal”ın yazdığına görə, bir halda “Gemini” qorunan sistemə giriş əldə edənədək parolları təxmin edib. Digər iki halda isə model açıq repozitoridə yerləşdirilmiş giriş məlumatlarını taparaq qorunan sistemlərə daxil olub. Heather Adkins “Gemini”nin hər üç halda hakerlik fəaliyyətini dayandırdığını bildirib.
