Google tədqiqatçısı: "Sİ insan müdaxiləsinə qarşı olacaq"

Süni intellektin inkişafı sürətləndikcə onun gələcəkdə yarada biləcəyi risklərlə bağlı narahatlıqlar da artır. Keçmiş Google DeepMind tədqiqatçısı Bilal Chughtai süni intellektin kifayət qədər nəzarət olunmadığı halda insanlıq üçün son dərəcə ağır nəticələrə səbəb ola biləcəyini bildirib.

Chughtai bu ilin iyulunda Google DeepMind-dan ayrılıb. O, süni intellekt təhlükəsizliyi və “alignment” – yəni AI sistemlərinin insan məqsəd və dəyərlərinə uyğun fəaliyyət göstərməsinin təmin edilməsi istiqamətində araşdırmalar aparıb. İndi isə keçmiş həmkarlarının və digər AI mütəxəssislərinin texnologiyanın inkişaf sürəti ilə bağlı narahatlıqlarına qoşulub.

Əsas narahatlıq nədir?

Mütəxəssislərin əsas narahatlığı süni intellektin sadəcə “ağıllı” olması deyil. Problem daha mürəkkəb sistemlərin gələcəkdə daha çox qərarı insan müdaxiləsi olmadan qəbul edə bilməsi və onların davranışlarının tam proqnozlaşdırılmasının çətinləşməsidir.

Xüsusilə öz fəaliyyətini planlaşdıra, müxtəlif tapşırıqları müstəqil yerinə yetirə və digər sistemlərlə əlaqə yarada bilən AI agentlərinin inkişafı bu müzakirələri daha da aktuallaşdırıb.

Chughtai hesab edir ki, təhlükəsiz AI yaratmaq mümkündür. Lakin bunun üçün texnologiya şirkətlərinin yalnız rəqabət aparması deyil, təhlükəsizlik məsələsində koordinasiyalı fəaliyyət göstərməsi vacibdir.

Digər tədqiqatçılar da xəbərdarlıq edir

Bu narahatlıq yalnız bir mütəxəssisin fikri deyil. Son günlər süni intellekt sahəsində çalışan bir sıra tədqiqatçılar texnologiyanın inkişaf tempinin təhlükəsizlik araşdırmalarını geridə qoyduğunu bildirirlər.

Anthropic şirkətinin keçmiş tədqiqatçısı Jacob Coxon da şirkətdən ayrılarkən qabaqcıl AI sistemlərinin gələcəkdə insan nəzarətindən çıxması ilə bağlı ciddi narahatlıqlarını ifadə edib. Digər bir araşdırmaçı Evan Hubinger isə növbəti onillikdə süni intellektin fəlakətli nəticələrə səbəb olması ehtimalını 10 faizdən yüksək qiymətləndirib.

Anthropic-in rəhbəri Dario Amodei də AI inkişafının daha ehtiyatlı şəkildə davam etdirilməsinə çağıran texnologiya rəhbərləri arasındadır. OpenAI rəhbəri Sam Altman və digər texnologiya liderləri də təhlükəsizlik məsələsində daha çox koordinasiyanın vacibliyini vurğulayıblar.

Hamı eyni fikirdə deyil

Bununla belə, süni intellektin insanlığın məhvinə gətirib çıxara biləcəyi ilə bağlı proqnozlar mütəxəssislər arasında yekdil fikir deyil. Bəzi ekspertlər belə uzaq gələcək ssenarilərinə həddindən artıq diqqət yetirilməsinin bu gün mövcud olan problemləri – dezinformasiya, kibertəhlükəsizlik, məxfilik və AI-dan sui-istifadə kimi məsələləri kölgədə qoya biləcəyini düşünürlər.

Digər tərəfdən, AI təhlükəsizliyi üzrə çalışan mütəxəssislər hesab edirlər ki, yüksək riskli ssenarilərin baş vermə ehtimalı dəqiq bilinməsə belə, qabaqcadan təhlükəsizlik mexanizmlərinin yaradılması vacibdir.

İnkişaf, yoxsa ehtiyat?

Beləliklə, süni intellekt ətrafında əsas müzakirə artıq yalnız “AI nə qədər güclü olacaq?” sualından ibarət deyil. Daha mühüm sual ortaya çıxır: AI nə qədər güclü olarsa, insan onun üzərində nə qədər nəzarəti saxlaya biləcək?

Texnologiya şirkətləri bir tərəfdən daha güclü sistemlər yaratmaq uğrunda yarışır, digər tərəfdən isə həmin sistemlərin təhlükəsizliyini təmin etməyin yollarını axtarırlar. Reuters-in son materialları göstərir ki, bu ziddiyyət – sürətli inkişaf və təhlükəsizlik arasında balans – süni intellekt sənayesinin qarşıdakı illərdə ən mühüm məsələlərindən biri olacaq.

Məsələ artıq yalnız texnologiya şirkətlərinin deyil, dövlətlərin, alimlərin və bütövlükdə cəmiyyətin qarşısında duran sualdır: insan yaratdığı texnologiyanın inkişaf sürətini idarə edə biləcəkmi?

Lalə Mehralı