OMM Redaksiyası
Kiçik süni intellekt modelləri yaxın gələcəkdə insan müdaxiləsi olmadan internetə qoşulan cihazlar arasında yayıla bilər. “Anthropic” şirkəti belə sistemlərin, məsələn, ağıllı məişət texnikası və “Android TV” qurğularında çoxalmasının qarşısını almağın çətinləşə biləcəyini bildirir.
Şirkətin keçirdiyi sınaqlarda modellərin zəif qorunan cihazları müəyyənləşdirmək, onlara öz nüsxələrini quraşdırmaq və insan köməyi olmadan yayılmağa davam etmək imkanları yoxlanılıb.
Kiçik modellər özünü yaymağa nə dərəcədə yaxındır?
Sınaqlar göstərib ki, 30 milyarddan az parametrə malik kiçik modellər özlərini çoxaltmaq üçün tələb olunan addımların bir çoxunu artıq yerinə yetirə bilir. Bununla belə, onlar prosesi hələ tam müstəqil şəkildə başa çatdıra bilməyib.
Bəzi təhlükəsizlik tədbirlərinin aradan qaldırıldığı sadələşdirilmiş sınaqlarda isə “GLM-5.2” və daha qabaqcıl modellər tam yayılma prosesini həyata keçirə bilib.
“Anthropic” özünü çoxaldan süni intellekt sistemlərinin nəzarətdə saxlanmasının xüsusilə çətin ola biləcəyini vurğulayır. Şirkətin fikrincə, belə sistemləri dayandırmaq üçün vahid söndürmə mexanizmi olmaya bilər.
Ənənəvi zərərli proqramlardan fərqli olaraq, bu sistemlər insan yönləndirməsi olmadan tanımadıqları cihazlara uyğunlaşa və potensial olaraq məlumat mərkəzlərindəki prosessorları hədəfə ala bilər.
Ağıllı cihazlarda təhlükəsizlik riski
Araşdırmada “Android TV” qurğuları, ağıllı məişət avadanlıqları və internetə qoşulan digər cihazlar nəzərdən keçirilib. “Anthropic” qeyd edir ki, bu cihazların bir qismində təhlükəsizlik qorunması daha zəifdir.
Şirkətin qiymətləndirməsinə görə, kiçik modellər indiki sürətlə təkmilləşməyə davam etsə, 2026-cı ilin sonunadək müstəqil yayıla biləcək səviyyəyə çata bilər. Modellərin öz çəkilərini (model weights) köçürmək imkanının isə bundan qısa müddət sonra ortaya çıxması mümkündür.
Belə imkanlar yaransa belə, “Anthropic” sistemlərin geniş yayılmış, təhlükəsizliyi zəif cihazlardan istifadə edərək nisbətən yavaş yayılacağını ehtimal edir. Şirkət qoşulmuş cihazlarda özünü çoxaldan süni intellektin yayılmasının qarşısını almaq üçün daha güclü təhlükəsizlik tədbirləri görülməsinə çağırıb.
