OMM Redaksiyası
“Anthropic” istifadə siyasətini yeniləyərək süni intellekt agentlərinə təkrar təhqir və ya qəddar davranışla müşayiət olunan söhbətləri dayandırmaq imkanı verəcək. Şirkət bu addımı əvvəl baş vermiş hallarla əlaqələndirib.
Noyabrın 12-dən qüvvəyə minəcək qayda yalnız istifadəçinin “Claude”a dəfələrlə, qanuni və ya əsaslı məqsəd olmadan təhqiramiz münasibət göstərdiyi ekstremal hallarda tətbiq olunacaq.
“Anthropic” bildirib ki, adi narazılıq ifadələri, modelin tənqidi, yaradıcı yazıda qaranlıq mövzular, eləcə də sınaq və araşdırma məqsədli qarşılıqlı əlaqələr bu məhdudiyyətə daxil deyil.
Yenilik 2025-ci ilin avqustunda “Claude Opus 4” və “Claude Opus 4.1” modellərində tətbiq edilən xüsusiyyətin davamıdır. Həmin funksiya qarşılıqlı əlaqəni başqa istiqamətə yönəltmək cəhdləri nəticə vermədikdə, məhdud hallarda söhbəti bitirməyə imkan verirdi.
“Anthropic” bu tədbiri süni intellektin rifahına dair davam edən araşdırmalarının bir hissəsi kimi təqdim edib. Bununla yanaşı, şirkət “Claude”un və ya digər süni intellekt sistemlərinin mənəvi statusa malik olub-olmadığının hələ də qeyri-müəyyən olduğunu vurğulayıb.
Süni intellekt mənəvi münasibətə layiqdirmi?
Elan süni intellekt sistemləri ilə necə ünsiyyət qurulmalı olduğu və onlara hər hansı mənəvi münasibət göstərilməsinin vacibliyi barədə müzakirələrə səbəb olub.
“Microsoft”un süni intellekt bölməsinin rəhbəri Mustafa Suleyman süni intellekti insaniləşdirmək meylini tənqid edib. O, sistemlərə insan kimi yanaşmağın onların imkanları və mahiyyəti barədə istifadəçiləri yanılda biləcəyini deyib. Suleyman bildirib: “Süni intellektin bu səviyyədə insaniləşdirilməsi zərərlidir. Bu, insanları onun əslində olmadığı bir şey olduğuna inandırır”.
Bəzi şəxslər çatbotların emosiyaları olmadığına və əlavə sözlərin istifadə olunan tokenlərin sayını artıra bildiyinə görə onlarla nəzakətli danışmağın vacib olmadığını düşünür.
Digərləri isə hörmətli ünsiyyətin daha aydın dialoqa kömək edə biləcəyini və müsbət sosial vərdişləri gücləndirə biləcəyini bildirir. Onların fikrincə, süni intellekt sistemlərinə qarşı mütəmadi təhqiramiz dil işlətmək insanların bir-biri ilə ünsiyyətinə də təsir göstərə bilər.
Müzakirə süni intellekt sənayesinin qarşısında duran daha geniş suala toxunur: getdikcə inkişaf edən sistemlər gündəlik həyatın bir hissəsinə çevrildikcə, onların insanlarda olduğu kimi zərər hiss etdiyinə dair sübut olmasa belə, süni intellektlə ünsiyyətdə hörmət normaları tətbiq edilməlidirmi?
