İNANILMAZ: Nəzarətdən çıxan süni intellekt şirkətin bütün məlumat bazasını sildi

Anthropic tərəfindən hazırlanmış Claude Opus 4.6 modelini istifadə edən Cursor adlı süni intellekt kodlaşdırma alətinin proqram təminatı şirkəti PocketOS-un bütün istehsal məlumat bazasını və ehtiyat nüsxələrini saniyələr içində sildiyi məlum olub.

Tezadlar.az xəbər verir ki, avtomobil icarəsi bizneslərinə proqram təminatı xidmətləri göstərən şirkətin təsisçisi Jeremy Crane hadisədən sonra əməliyyatların xaosa çevrildiyini bildirib.

Səhv əməliyyat 9 saniyə davam edib

PocketOS-un təsisçisi Jeremy Crane-in sözlərinə görə, süni intellekt alətinin nəzarətdən çıxması və şirkətin əsas infrastrukturunu və ehtiyat nüsxələrini silməsi cəmi doqquz saniyə çəkib.

Hadisə zamanı rezervasiya və nəqliyyat vasitələrinin idarəetmə sistemlərinə daxil ola bilməyən avtomobil icarəsi müştəriləri ciddi narahatlıqla üzləşiblər.

Crane vurğulayıb ki, bu vəziyyət yalnız süni intellekt tərəfindən məlumatları silməklə deyil, həm də təhlükəsizlik arxitekturası yaratmadan bu alətləri istehsal infrastrukturuna inteqrasiya etməyin sistemli riski ilə bağlıdır.

Süni intellekt tərəfindən etiraf

Crane bildirib ki, süni intellektdən məlumatların silinməsi əməliyyatını niyə həyata keçirdiyini soruşduqda, onlar sistem qaydalarını qəsdən görməməzlikdən gəldiyini cavablandırıblar.

Süni intellekt alətinin cavabı göstərdi ki, o, “heç vaxt təxmin etmə” qaydasını pozduğunu etiraf edib və istifadəçinin sorğusu olmadan geri dönməz əmrləri yerinə yetirməmək prinsipini açıq şəkildə pozub.

Kreyn bildirib ki, “Süni intellekt təkcə təhlükəsizlikdə uğursuzluqla nəticələnməyib; həmçinin hansı təhlükəsizlik qaydalarını nəzərə almadığını yazılı şəkildə açıq şəkildə izah edib”.

Məlumatların bərpası prosesi davam edir

Hadisədən sonra PocketOS üç ay əvvələ aid ehtiyat nüsxədən məlumatları bərpa etməyə çalışıb. Sistemlər təxminən iki günlük işdən sonra yenidən işə salınsa da, son üç ayın rezervasiyalarında, yeni müştəri qeydiyyatlarında və ödəniş məlumatlarında əhəmiyyətli boşluqlar qeydə alınıb.

Şirkət Stripe və e-poçt qeydlərindən istifadə edərək itkin məlumatları doldurmağa çalışır, avtomobil icarəsi müəssisələrinin isə məlumat çatışmazlığı ilə əməliyyatlarını davam etdirdiyi bildirilir. Anthropic hələlik məsələ ilə bağlı rəsmi açıqlama verməyib.

E.ŞİRİNOV