OMM Redaksiyası
Süni intellekt şirkəti "Anthropic"in baş direktoru Dario Amodei getdikcə daha imkanlı süni intellekt sistemlərinin hazırlanma tempinin azaldılmasına çağırıb. O bildirib ki, bu texnologiyaların yarada biləcəyi riskləri qiymətləndirmək və təhlükəsizlik tədbirlərini gücləndirmək üçün daha çox vaxta ehtiyac var.
Amodei vurğulayıb ki, şirkətlər süni intellektin inkişafını dayandırmamalıdır. Onun fikrincə, şirkətlər təhlükəsizlik mexanizmlərinin modellərin imkanlarının artımına uyğunlaşması üçün inkişaf prosesinə əlavə vaxt daxil etməlidirlər.
"Anthropic" rəhbəri "X" platformasında paylaşdığı məqalədə bildirib ki, şirkətlər inkişaf tempini müəyyən qədər azaltsalar belə, süni intellekt sahəsində irəliləyiş sürətli olaraq qalacaq.
Amodei risklərin idarə olunmasına daha çox vaxt verə biləcək üçmərhələli çərçivə təklif edib. Təkliflərdən biri qabaqcıl süni intellekt şirkətlərində daimi əsasda fəaliyyət göstərəcək müstəqil üçüncü tərəf qiymətləndiricilərinin yerləşdirilməsidir.
Bu qiymətləndiricilər riskləri müəyyənləşdirmək üçün istifadə olunan müvafiq alətlərə və daxili proseslərə çıxış əldə etməlidirlər. Amodei həmçinin müstəqil ekspertlərin şirkətlərin modellərin təhlükəsizliyini təmin etmək və onları müvafiq məqsədlərə uyğunlaşdırmaq üçün lazımi tədbirlər gördüyünü yoxlamasını təklif edib.
Bu çağırış qabaqcıl süni intellekt sistemlərindən sui-istifadə ilə bağlı narahatlıqların artdığı bir vaxta təsadüf edir. Söhbət bu sistemlərin kiberəməliyyatlarda, müşahidədə, fırıldaqçılıqda və silahların hazırlanmasında istifadəsindən gedir.
Təklif "Anthropic"in cümə axşamı yayımladığı təhdid kəşfiyyatı hesabatından sonra irəli sürülüb. Hesabatda bir neçə aktorun şirkətin "Claude" süni intellekt modellərindən müxtəlif təhlükəli fəaliyyətlər üçün istifadə etdiyi bildirilib.
Süni intellektin mümkün nəticələri ilə bağlı narahatlıqlar bu həftə "Anthropic" tədqiqatçısı Jacob Coxonun istefasından sonra da artıb. Coxon süni intellekt sahəsində çalışan insanların bu texnologiyanın onilliyin sonuna qədər bütün insanlığı məhv edə biləcəyinə ciddi şəkildə inandıqlarını deyib.
Amodei şirkətləri qabaqcıl süni intellektlə bağlı risklərin idarə olunması üçün ümumi standartlar yaratmağa könüllü şəkildə əməkdaşlıq etməyə çağırıb. Onun açıqlaması ABŞ qanunvericilərinin süni intellekt sistemlərini tənzimləyən yeni qaydaların qəbul edilməsini tələb etdiyi bir dövrə təsadüf edir.
