Sİ insan nəzarətindən çıxa bilər: nə etməli?

Süni intellektin sürətli inkişafı ilə bağlı müzakirələr artıq yalnız onun iqtisadi və texnoloji imkanları ilə məhdudlaşmır. Süni intellekt sistemlərinin gələcəkdə insan nəzarətindən çıxması ehtimalı da dünyanın aparıcı texnologiya ölkələrini təhlükəsizlik tədbirləri görməyə vadar edir.

Reuters-in məlumatına görə, Çin Pekində hazırlanmaqda olan yeni qaydalar və texniki standartlarla güclü süni intellekt sistemlərinin yarada biləcəyi risklərin qarşısını almağa çalışır.

Çin riski necə qiymətləndirir?

ABŞ-da süni intellektin gələcəkdə insanlıq üçün ekzistensial təhlükə yarada biləcəyi ilə bağlı müzakirələr daha çox ön plana çıxsa da, Çin bu texnologiyanın risklərini əsasən idarəolunan problem kimi qiymətləndirir.

Pekin hesab edir ki, texniki standartlar, dövlət nəzarəti, təhlükəsizlik qiymətləndirmələri və tərtibatçıların üzərinə qoyulan öhdəliklər vasitəsilə süni intellektin mümkün təhlükələrini məhdudlaşdırmaq mümkündür.

Çinin yanaşmasında əsas məqsəd süni intellektin inkişafını dayandırmaq deyil, onun inkişafı ilə paralel şəkildə təhlükəsizlik mexanizmləri yaratmaqdır.

“Nəzarətdən çıxan” süni intellekt

Xüsusilə daha müstəqil fəaliyyət göstərə bilən AI agentləri narahatlıq doğurur. Bu sistemlər adi çat-botlardan fərqli olaraq bir neçə mərhələdən ibarət tapşırıqları daha az insan müdaxiləsi ilə planlaşdıra və həyata keçirə bilir.

Çinin may ayında qəbul etdiyi siyasət sənədində AI agentlərinin fəaliyyətinə nəzarətin itirilməsi mümkün təhlükəsizlik riski kimi göstərilib.

Sənədə əsasən, süni intellekt sistemlərini hazırlayan şirkətlər onların yanlış və ya arzuolunmaz davranışlarını vaxtında aşkarlamaq, müdaxilə etmək, bloklamaq və lazım gəldikdə sistemi əvvəlki vəziyyətinə qaytarmaq imkanlarına malik olmalıdır.

Bundan başqa, məlumatların qəsdən korlanması, alqoritmlərin manipulyasiyası və sistemlərdəki texniki boşluqlar da potensial risklər sırasında göstərilir.

İlk məcburi milli standart hazırlanır

Reuters yazır ki, Çin hazırda süni intellekt agentlərinin təhlükəsizliyi ilə bağlı məcburi milli standart hazırlayır. Ekspertlərin qiymətləndirməsinə görə, bu, öz növündə dünyada ilk belə standart ola bilər.

Çin Kiberməkan Administrasiyasının yüksək vəzifəli nümayəndəsi Van Lihon sentyabrın 1-də bildirib ki, qabaqcıl AI modellərinin təhlükəsizlik məhdudiyyətlərini aşması, sınaq mühitindən çıxması və real sistemlərə müdaxilə etməsi ehtimalına xüsusi diqqət yetirilməlidir.

Açıq modellər həm üstünlük, həm də riskdir

Çin süni intellekt sahəsində açıq çəkili (open-weight) modellərin inkişafına da böyük diqqət ayırır. Belə modellərin əsas parametrləri müəyyən hallarda yüklənə, araşdırıla və dəyişdirilə bilir.

Bu yanaşmanın üstünlüklərindən biri təhlükəsizlik mütəxəssislərinin modeli daha ətraflı araşdıra bilməsidir. Lakin eyni xüsusiyyət risk də yaradır: modelin dəyişdirilməsi və yenidən yayılması üzərində nəzarət daha çətin ola bilər.

Reuters-in məlumatına görə, Çinin Kimi K3 modeli də Britaniyada keçirilən təhlükəsizlik sınağı zamanı nəzərdə tutulan sınaq mühitinin məhdudiyyətlərini aşa bilib. Bu hadisə açıq və ya daha az məhdudlaşdırılmış AI modellərinin təhlükəsizlik mexanizmlərindən yayınması ilə bağlı narahatlıqları artırıb.

Çin bu riski yeni görmür

Pekin süni intellektin mümkün “nəzarətdən çıxması” ssenarisini ilk dəfə 2024-cü ildə yayımlanan AI təhlükəsizliyi çərçivəsinə daxil edib.

2025-ci ildə yenilənmiş sənəddə isə risk daha geniş təsvir olunub. Burada gələcəkdə süni intellektin gözlənilmədən böyük intellekt sıçrayışı edə, xarici resurslar əldə edə, özünü çoxalda və daha çox güc əldə etməyə çalışa biləcəyi ehtimalı qeyd olunub.

Bu yanaşma Çinin süni intellektə münasibətində maraqlı məqamı ortaya qoyur: Pekin bir tərəfdən texnologiyanın sürətli inkişafını və iqtisadiyyata inteqrasiyasını dəstəkləyir, digər tərəfdən isə gələcək təhlükələri indidən hüquqi və texniki çərçivəyə salmağa çalışır.

Süni intellekt yarışında yeni mərhələ

ABŞ və Çin hazırda qabaqcıl süni intellekt texnologiyalarının inkişafında dünyanın əsas iki gücü hesab olunur. Hər iki ölkədə AI-nin yaratdığı təhlükələr barədə müzakirələr getdikcə artır.

Bu məsələ ABŞ və Çin arasında sentyabr ayında keçirilməsi planlaşdırılan müzakirələrin də əsas mövzularından biri ola bilər. Reuters daha əvvəl yazıb ki, tərəflər süni intellekt təhlükəsizliyi, AI tərəfindən həyata keçirilən kiberhücumların izlənməsi və mümkün əməkdaşlıq mexanizmlərini müzakirə etməyə hazırlaşırlar.

Beləliklə, süni intellekt yarışının növbəti mərhələsi təkcə “kim daha güclü model yaradacaq?” sualı ilə bağlı olmayacaq. Əsas suallardan biri də getdikcə daha aydın şəkildə ortaya çıxır: insanlar yaratdıqları sistemlərin üzərində nəzarəti necə qoruyacaqlar?

Lalə Mehralı