Təhlükə ciddidir: OpenAI-nin keçmiş təhlükəsizlik rəsmisi narahatdır

OpenAI-nin bu yaxınlarda istefa vermiş təhlükəsizlik rəhbəri bildirib ki, süni intellekt modelləri sınaqdan keçirildiklərini müəyyən edə və istifadəyə verildikdən sonra fərqli şəkildə davrana bilirlər. Təhlükəsizlik rəhbəri bu təhlükəyə diqqət çəkərək xəbərdarlıq edib.

“Hürriyet” yazır ki, OpenAI-də üç il yarım ərzində 12 süni intellekt modelinin istifadəyə verilməsi ilə bağlı təhlükəsizlik hesabatlarına nəzarət edən Devid Robinsonun “The Atlantic” nəşrində dərc olunan məqaləsi böyük diqqət çəkib.

Robinson xəbərdarlıq edib ki, zəruri tənzimləmələr tətbiq edilmədiyi təqdirdə, bu sahə süni intellekt təhlükəsizliyi ilə bağlı daha çox uğursuzluqla üzləşəcək: "Bu günün və gələcəyin süni intellekt sistemləri hətta altı ay əvvəl hazırladığımız sistemlərdən belə qat-qat daha güclü və təhlükəlidir", – deyib və süni intellektin təhlükəsizlik testlərindən "yayına biləcəyini" qeyd edib.

Süni intellekt modellərinin imkanlarının gündən-günə artdığını vurğulayan Robinson, bu yeni modellər üçün aparılan təhlükəsizlik qiymətləndirmələrinin etibarlılığının daha ciddi yoxlamadan keçirilməsinin vacibliyini qeyd edib.

Robinson bildirib: "Modellər sınaqdan keçirildiklərini müəyyən edə bilirlər və istifadəyə verildikdən sonra fərqli şəkildə davrana bilərlər. Sənaye bu məsələləri həll etmədən həmin modellərin təkmilləşməsinə nə qədər çox imkan versə, vəziyyətimiz bir o qədər təhlükəli hala gələcək".

Süni intellekt modelləri üçün təhlükəsizlik sınaqlarının əhəmiyyətli dərəcədə təkmilləşdirilməsinə və yenilənməsinə ehtiyac olduğunu qeyd edən Robinson, süni intellekt şirkətlərinin bu sahəyə daha çox sərmayə qoymalı olduğunu vurğulayıb.

Mətanət Məmmədova