OMM Redaksiyası
ABŞ-ın aparıcı süni intellekt şirkəti "Anthropic"də çalışan tədqiqatçıların getdikcə güclənən süni intellekt modellərinin insan nəzarətindən çıxa biləcəyi barədə xəbərdarlıqları Çində də diqqət çəkib. ABŞ və Çin qabaqcıl süni intellektin inkişafında və texnologiyanın qlobal yayılmasında əsas ölkələr hesab olunur.
Hər iki ölkə süni intellektə nəzarətlə bağlı narahatlıqları bölüşür, lakin təhlükəsizlik tədbirlərinə yanaşmaları fərqlidir. Pekin daha çox dövlət nəzarətinə, ABŞ-da isə müzakirələr əsasən şirkət səviyyəsində tətbiq olunan nəzarət mexanizmlərinə əsaslanır.
Çinli siyasətçilər süni intellekti güclü, lakin idarəolunan texnologiya kimi qiymətləndirirlər. Onların mövqeyinə görə, riskləri texniki standartlar, tənzimləmə və dövlət nəzarəti vasitəsilə məhdudlaşdırmaq mümkündür.
"Concordia AI" şirkətinin təsisçisi və baş direktoru Brayan Tse bildirib ki, Çin və ABŞ ekspertləri süni intellekt riskləri barədə əsasən razıdırlar. Onun sözlərinə görə, fərq risklərin necə çərçivələndirilməsi və prioritetləşdirilməsindədir.
Çin kiberməkan, iqtisadi planlaşdırma və sənaye qurumlarının may ayında yayımladığı siyasət sənədində süni intellekt agentləri üçün “əməliyyat nəzarətinin itirilməsi”ni təhlükəsizlik riski kimi müəyyənləşdirib. Bu agentlər ənənəvi çat-botlardan fərqli olaraq çoxmərhələli tapşırıqları daha müstəqil şəkildə planlaşdırıb həyata keçirə bilir.
Sənəddə tərtibatçılardan süni intellekt agentlərinin düzgün olmayan və ya nəzarətdən çıxmış davranışlarını aşkar etmək, müdaxilə etmək, bloklamaq və bərpa etmək imkanlarını gücləndirmək tələb olunur. Həmçinin məlumatların zəhərlənməsi, alqoritmlərin manipulyasiyası və sistem boşluqları kimi risklərə qarşı tədbirlər görülməsi tövsiyə edilir.
Çin qaydalarına əsasən, süni intellekt sistemi şəffaf olmalı, istifadəçilər agentlərin müstəqil qərarları barədə məlumatlandırılmalı və son qərarvermə səlahiyyəti insanlarda qalmalıdır.
Çin Dövlət Təhlükəsizliyi naziri Çen İsin sentyabrın 13-də hökumətə məxsus nəşrdə yazıb ki, ABŞ-ın "Anthropic" şirkətinin "Mythos" və "OpenAI" şirkətinin "GPT-5.5-Cyber" kimi qabaqcıl modelləri Çinin mühüm informasiya infrastrukturuna ciddi təhlükələr yarada bilər. O, süni intellekt təhlükəsizliyinin hərtərəfli gücləndirilməsinə çağırıb.
Çin 2024-cü ilin sentyabrında açıqlanan süni intellekt təhlükəsizliyi çərçivəsində gələcəkdə nəzarətin itirilməsi ssenarisini ilk dəfə açıq şəkildə qeyd edib. Sənəddə süni intellektin müstəqil şəkildə xarici resurslar əldə etməsi, özünü çoxaltması, şüur inkişaf etdirməsi və xarici güc axtarması ehtimalının istisna edilə bilmədiyi bildirilib.
2025-ci ilin sentyabrında yenilənmiş çərçivədə bu ssenari daha da dəqiqləşdirilib. Yeni sənəddə süni intellektin resurslar əldə etməzdən, özünü çoxaltmadan və güc axtarmadan əvvəl intellekt səviyyəsində qəfil və gözlənilməz “sıçrayış” edə biləcəyi vurğulanıb.
Çinin tənzimləmə yanaşması bəzi Qərb süni intellekt təhlükəsizliyi dairələrinin ən güclü modellərin inkişafını təhlükəsizlik mexanizmləri yaradılanadək yavaşlatmaq və ya dayandırmaq çağırışlarından fərqlənir. Pekin bunun əvəzinə süni intellektin bütün sənaye sahələrinə inteqrasiyasını təşviq edir, lakin idarəetmənin texnologiyanın inkişafından geri qaldığını düşündükdə tətbiqi gecikdirə bilir.
