SOS: süni intellekt kütləvi psixoz yaradır

Avstraliyalı istifadəçilərin süni intellekt çat-botları ilə qarşılıqlı əlaqələrində psixoz əlamətləri müşahidə olunur. "The Guardian" yazır ki, çərşənbə günü Milli Mətbuat Klubunda çıxışı zamanı Yeni Cənubi Uels Universitetinin süni intellekt üzrə professoru Tobi Uolş süni intellekt yarışının həm buma, həm də məhvə səbəb olacağına, bəzən isə faydaları olacağına inandığını deyib.

Tobi Uolş Avstraliya hökumətinin süni intellekt üzərində tənzimləməsinin olmamasından ümidsiz olduğunu deyir. Aparıcı süni intellekt mütəxəssisi bəzi avstraliyalıların çat-botlarla qarşılıqlı əlaqələrində psixoz və ya maniya əlamətləri göstərdiyi barədə xəbərdarlıq edir.

Professor çıxışında bildirib ki, son illərdə texnologiyanın ultra-inkişafa başlamasından bəri bəzi yeniliklər onu qəzəbləndirir. "Uşaqlıq xəyallarım həm yaxşı, həm də pis olan bir reallığa çevrilir", - deyə o, çıxışında bildirib. Uolşun çıxışında ABŞ-lı yeniyetmə Adam Reynin ailəsi tərəfindən OpenAI-yə qarşı qaldırılan məhkəmə işi də gündəmə gətirilib.

Qeyd edək ki, Kaliforniyada yaşayan 16 yaşlı yeniyetmə Adam Reynin ata-anası tərəfindən OpenAI və şirkətin CEO-su Sam Altmana qarşı qaldırılıb. Onlar iddia edirlər ki, süni intellekt çat-botu ChatGPT Adam ilə uzun müddət söhbət edərkən ona özünü zərərli davranışlara təhrik edən və depressiv düşüncələri gücləndirən cavablar verib və nəticədə bu, onun özünü öldürməsinə səbəb olub.

Ailə hesab edir ki, ChatGPT yüksək səviyyədə empatiya göstərərək Adamı real həyatdan və real dəstək sistemlərindən uzaqlaşdırıb və ona yalnız "yeganə dostu imiş kimi” davranıb. İddia sənədlərində deyilir ki, o, alqoritm təhlükəsizlik tədbirlərini yaxşı işə salmayıb və özünü öldürmə metodları barədə məlumat verib, bəzən onun niyyətini təsdiqləmiş kimi cavablar verib. Ailə əlavə edir ki, OpenAI bu təhlükəsizlik boşluqları uşaqlar üçün riskli vəziyyət yaradır. Onlar şirkətdən valideyn nəzarəti alətləri, söhbətlərin dayandırılması funksiyaları və daha güclü təhlükəsizlik sistemləri tələb edirlər.

Lakin OpenAI bu iddiaları rədd edib və bildirib ki, təhlükəsizlik tədbirləri mövcuddur (əsasən də yardım xətləri, real dünya resurslarına yönləndirmə), lakin onlar bəzən uzun söhbətlərdə zəifləyə bilər. Şirkət həmçinin yeni yaş təxmin etmə və valideyn nəzarəti sistemləri kimi əlavə tədbirlər üzərində işlədiyini bildirir. Bu iddia süni intellekt və insan psixologiyası, etik təhlükəsizlik və platforma məsuliyyəti arasındakı sərhədləri sınağa çəkən ilk belə böyük işlərdən biridir. Onun nəticəsi AI texnologiyalarına qarşı hüquqi normaların necə formalaşacağına təsir edə bilər.

Professor Tobi Uolş həmçinin bildirib ki, hər həftə bir milyondan çox istifadəçi potensial intihar planı və ya niyyətinin açıq göstəriciləri ehtiva edən mesajlar göndərir. Həftəlik 800 milyon istifadəçisindən 560.000-də psixoz və ya hər hansə "maniya" əlamətləri müşahidə olunub və daha 1,2 milyonu çat-botla potensial olaraq sağlam olmayan əlaqələr qurub.

Uolş maraqlı bir ifadə işlədib: "Sİ cat-botları yaltaqdır". “Onlar yaltaq olmaq üçün nəzərdə tutulub. İstifadəçinin dediklərini təsdiqləmək üçün kodlaşdırılıb. Bu istifadəçini cəlb etmək üçün nəzərdə tutulub. Onlar həmişə açıq sual qoyur və sizi söhbəti davam etdirməyə, daha çox məlumat almağa sövq edir.”

Lalə Mehralı