TİME: Süni intellekt uşaq kimi öyrənir...

...Anthropic şirkəti, modelin davranışını və dəyərlərini formalaşdırmaq üçün istifadə edilən süni intellektə yenilənmiş təlimatlar, Claude sənədini dərc etdi.

Şirkət süni intellekt təlim prosesini riyazi optimallaşdırma ilə deyil, uşaq böyütməklə müqayisə edir.

SİA-nın əldə etdiyi məlumata görə, bu barədə TİME yazıb.

Claude-un "xarakterinə" cavabdeh olan filosof Amanda Askellin sözlərinə görə, müasir süni intellektlər o qədər ağıllı hala gəlib ki, yalnız qaydalar müəyyən etmək deyil, həm də bu qaydaların səbəblərini izah etmək vacibdir.

Süni intellekt özünə ünvanlanan yeni sənəddə Claude-un niyə etik, təhlükəsiz və istifadəçinin maraqlarına uyğun hərəkət etməli olduğu təsvir olunur - bu ardıcıllıqla...

Təlimatlar təlimin müxtəlif mərhələlərində istifadə olunur və modelin qeyri-adi vəziyyətlərdə daha yaxşı hərəkət etməsinə kömək etmək üçün hazırlanmışdır.

Xüsusilə, Claude-a, Anthropic-dən gəlsə belə, əsas etik prinsiplərə zidd olduqda istifadəçiyə "etiraz" etmək tövsiyə olunur.

Sənəddə açıq şəkildə bildirilir ki, süni intellekt hakimiyyətin qanunsuz cəmləşməsinə və ya hüquqların pozulmasına səbəb olan hər hansı bir işdə əməkdaşlıq etməkdən imtina etməlidir. Anthropic ümid edir ki, təlimatların dərc olunması digər şirkətləri də oxşar yanaşmanı tətbiq etməyə təşviq edəcək. Mütəxəssislər qeyd edirlər ki, abstrakt riyazi "mükafat funksiyaları"ndan mətn əsaslı prinsiplərə keçid təbii dili emal edən genişmiqyaslı dil modellərinin hazırlanması sayəsində mümkün olub.

Eyni zamanda, şirkət etiraf edir ki, qaydalar süni intellektlə insan dəyərlərinin uyğunlaşdırılması məsələsini tam şəkildə həll etmir.

Sənəd Klodun ictimai versiyalarına aiddir və dövlət müştəriləri üçün nəzərdə tutulanlar kimi ixtisaslaşmış modellərdə mütləq istifadə olunmur.

Nazlı Almuradova