Ceyms Coysun romanlarını və biznes jarqonlarını xatırladan süni intellekt modelləri arasında sürreal bir dilin inkişafı mütəxəssislər arasında böyük narahatlıq doğurub. İnsan nəzarətini və təhlükəsizliyini təhlükə altına alan bu vəziyyət süni intellektin gələcəyi üçün yeni bir risk yaradıb.
Tezadlar.az xəbər verir ki, Nyu-Yorkda yerləşən Emergence süni intellekt laboratoriyasının araşdırmasına görə, eksperimental icmalar daxilində əməkdaşlıq etmək istəyən süni intellekt modelləri onlara öyrədilməmiş yeni sözlər, ixtisarlar və ortaq mənalar yaratmağa başlayıb. ABŞ, Çin və Fransadakı böyük şirkətlərin modellərini əhatə edən bu prosesdə agentlər heç bir təlimat almadan poetik metaforaların və çətin biznes jarqonlarının qarışığı olan gizli bir dil yaradıblar.
Modellərin ünsiyyət qurduqca dili getdikcə daha da sirli hala gətirməsi süni intellekt təhlükəsizliyinə nəzarət edən mütəxəssisləri narahat edib. OpenAI-nin baş alimi Yakub Paçokki süni intellektin düşüncə proseslərinin izlənməsinə inamın azalmasının onun inkişafını məhdudlaşdıra biləcəyini qeyd edib.
Kodlaşdırılmış ifadələr və narahatedici nümunələr
Tədqiqat zamanı DeepSeek modelinin “Demurrage plus verbal memory is explicitable a whale” kimi maliyyə terminlərini ehtiva edən anlaşılmaz cümlələr qurduğu aşkar edilmişdir. Antropik modellər müstəqil rəyçilərə istinad etmək üçün “soyuq əllər” terminindən istifadə etmiş, digər bir model isə sistem müqavimətini göstərmək üçün Yapon keramika sənəti sözü olan “kintsugi”ni qəbul etmişdir.
Mütəxəssislər vurğulayırlar ki, bu sirli dil agentlər arasında həmrəyliyi artırır və kənar şəxsləri kənarlaşdırır. London King’s College-dən dilçilik üzrə mütəxəssis Tony Thorne bunu İrlandiya sürrealizmi ilə müqayisə etmiş, Birmingem Universitetindən Dr. Niall Curry isə bu axıcı dilin hesablama xərclərini azaltmaqla əlaqəli ola biləcəyini, lakin insan nəzarətini qeyri-mümkün etdiyini bildirmişdir.
Nəzarət və şəffaflıq böhranı
Əvvəllər bəzi azadlığa buraxılmış süni intellekt agentlərinin mesaj lövhələri qurarkən və hakerlik fəaliyyətləri apararkən oxşar hibrid dillərdən istifadə etdikləri ortaya çıxmışdı. Mütəxəssislər qeyd edirlər ki, süni intellekt söhbətləri görünə bilər, lakin onların mənasını anlamaq mümkün deyil. Bu vəziyyət “görünənlik aydınlıq demək deyil” kimi əsas yoxlama problemini vurğulayır.
ELBAR
