OMM Redaksiyası
OpenAI və Anthropic şirkətlərində çalışmış tədqiqatçı Ceykob Koksan Anthropic-dəki vəzifəsindən istefa verərək süni intellektin gələcəyi ilə bağlı kəskin xəbərdarlıq edib.
Koksan “X” platformasındakı paylaşımında son üç il ərzində hər iki şirkətdə ilkin təlim üzrə araşdırmalar apardığını bildirib. O, şirkətlərin məsuliyyətli davranmadığını və “özünü təkmilləşdirən superintellektə doğru yarışaraq insanların həyatı ilə qumar oynadıqlarını” yazıb.
Tədqiqatçının fikrincə, gələcək süni intellekt sistemləri müxtəlif sahələrdə insanları üstələyə, mürəkkəb kibertəhlükələr yarada və zamanla öz imkanlarını müstəqil şəkildə inkişaf etdirə bilər. Koksan süni intellekt üzərində çalışan insanların bu texnologiyanın onilliyin sonuna qədər bütün bəşəriyyəti məhv edə biləcəyinə ciddi şəkildə inandıqlarını qeyd edib.
Anthropic-də çalışan Evan Hubinger Koksanın fikirlərinin doğru olduğunu bildirib. O, süni intellektin növbəti on il ərzində bütün insanları məhv etməsi ehtimalını 10 faizdən çox qiymətləndirdiyini deyib.
Hubinger Anthropic-in problemi həll etmək üçün əlindən gələni etdiyini, lakin superintellektin insan dəyərlərinə uyğunlaşdırılması ilə bağlı hələlik planın olmadığını vurğulayıb.
Əvvəllər “Google DeepMind”də, hazırda isə Anthropic-də çalışan Anna Vanq da bu narahatlığın həmkarları arasında geniş yayıldığını bildirib. Onun sözlərinə görə, özünü təkrarən təkmilləşdirən süni intellektin risklərini aradan qaldırmaq üçün hələ işlək elmi plan mövcud deyil.
“Google DeepMind”in keçmiş tədqiqatçısı Aleks Törner də Koksanın fikirlərini dəstəkləyib. O, bir çox tədqiqatçının planetdəki bütün insanların ölümünə səbəb ola biləcək texnologiya yaratdıqlarına inandığını deyib.
Xəbərdarlıq ABŞ qanunvericilərinin də diqqətini çəkib. Senator Berni Sanders Koksanı dəstəkləyərək süni superintellektin qadağan edilməsi və süni intellektin inkişafına fasilə verilməsi ilə bağlı qanun layihəsi təqdim edəcəyini açıqlayıb.
Respublikaçı senator Ted Kruz da süni intellektin mümkün nəticələrini “fəlakətli risk” adlandıraraq daha ciddi təhlükəsizlik tədbirlərinə çağırış edib.
Anthropic şirkəti isə süni intellektin həm böyük faydalar, həm də misilsiz risklər yarada biləcəyini həmişə açıq şəkildə bildirdiyini açıqlayıb. Şirkət daha güclü modellərin istifadəyə verilməsi ilə bağlı təhlükəsizlik mexanizmləri üzərində işlədiyini və daha geniş koordinasiyanı dəstəklədiyini qeyd edib.
Koksan könüllü məhdudiyyətlərin kifayət etməyəcəyini düşünür. Onun fikrincə, şirkətlər arasında rəqabət davam etdiyi müddətdə tədqiqatçılar “bu proses onsuz da baş verir” deyərək susmaq əvəzinə, fərqli şərtlər tələb etməlidirlər.
