Süni intellektin necə “düşündüyünü” anlamaq niyə vacibdir..?

...Süni intellektin sürətli inkişafı alimlər üçün yeni bir çətinlik yaratdı: müasir modellərin necə işlədiyini anlamaq... Şahmat oynayan Deep Blue kompüteri kimi erkən sistemlər öz tərtibatçıları üçün tamamilə başa düşülən olsa da, bugünkü neyron şəbəkələri məntiqi tez-tez hətta yaradıcılarından belə gizli qalan "qara qutular" olaraq qalır.

SİA-nın əldə etdiyi məlumata görə, bu barədə The New York Times yazır.

Dönüş nöqtəsi 2012-ci ildə AlexNet neyron şəbəkəsi öz daxili alqoritmlərini müstəqil şəkildə quraraq təsvirləri tanımağı öyrəndikdə baş verdi.

O vaxtdan bəri modellər daha mürəkkəbləşib: müasir sistemlər indi trilyonlarla parametr ehtiva edir.

Lakin, artan imkanlarla yanaşı, onların fəaliyyətinin şəffaflığı da azalıb.

Bu, xüsusilə tibbdən müdafiəyə qədər kritik sahələrdə ciddi narahatlıqlar doğurur.

Mütəxəssislər süni intellekt qərarlarının təbiətini anlamadan onlara etibar etməyin təhlükələrini vurğulayırlar.

Məsələn, bir alqoritm tibbi diaqnoz qoyursa və ya hərbi sistemdə qərar qəbul edirsə, onun nəticəsinin əsasını bilmək vacibdir.

Bununla əlaqədar olaraq, süni intellektdə "təfsir" sahəsi inkişaf edir.

Alimlər modellərin strukturunu təhlil edərək və gizli nümunələri müəyyən edərək "içinə baxmağa" çalışırlar. Yanaşmalardan biri neyron şəbəkələrini fərdi "nümunələrə" ayırmaqdır ki, bu da nəticəyə hansı amillərin təsir etdiyini anlamağa imkan verir.

Son tədqiqatlar artıq ilkin nəticələr verib. Məsələn, bir model qandakı DNT fraqmentlərinin uzunluğu ilə əvvəllər məlum olmayan mümkün biomarker olan Alzheimer xəstəliyi arasında potensial əlaqə aşkar edib.

Lakin, bu cür tapıntılar əlavə yoxlama tələb edir və həmişə qəti olmur. İrəliləyişlərə baxmayaraq, süni intellektdən "dekodlaşdırmağın" universal yolu hələ mövcud deyil.

Şərh metodları çox vaxt qeyri-kamildir və modellərin özləri ziddiyyətli izahlar verə bilər.

Bununla belə, mütəxəssislər hesab edirlər ki, süni intellektdən necə istifadə olunduğunu anlamaq onun təhlükəsiz tətbiqi üçün açar olacaq.

Onlar inanırlar ki, bu olmadan bəşəriyyət vacib qərarları məntiqi tam izah edilə bilməyən sistemlərə təhvil vermək riski ilə üzləşir.

Əli Babayev