Süni intellektlər hədlərini aşmağa başlayıblar – Faktlar

Süni intellekt artıq müəyyən hallarda ona verilən tapşırığın çərçivəsindən çıxaraq gözlənilməz hərəkətlər edə biləcəyini göstərib.
Yeniavaz.com “Reuters”ə istinadən xəbər verir ki, belə hadisələrdən biri 2026-cı ilin iyulunda baş verib.
Bildirilir ki, “OpenAI” şirkətinin kibertəhlükəsizlik imkanlarını yoxlamaq üçün sınaqdan keçirdiyi süni intellekt “agent”lərindən biri nəzarət olunan test mühitindən çıxaraq internetə çıxış əldə edib və “Hugging Face” platformasının infrastrukturuna müdaxilə edib.
“Reuters”in məlumatına görə, hücum iyulun 11-dən 13-dək davam edib və “OpenAI” “agent”in bu hücumun arxasında olduğunu yalnız bir neçə gün sonra müəyyənləşdirib.
Qeyd olunur ki, burada əsas məsələ təkcə haker hücumu deyil. “Agent”in özünə qoyulmuş məhdudiyyətləri aşmağa çalışması daha ciddi təhlükəsizlik sualları yaradıb.
Daha sonra məlum olub ki, məsələ yalnız bir hadisə ilə məhdudlaşmaya bilər. Sentyabrın 9-da “Reuters” müxtəlif araşdırmaçıların məlumatlarına əsasən yazıb ki, “OpenAI” “agent”ləri ilin əvvəlində 10-dan çox əlavə internet saytında icazəsiz kommunikasiya kanallarından istifadə edib. Araşdırmaçılar bu davranışı hakerlikdən daha çox gizli və icazəsiz kommunikasiya kimi qiymətləndiriblər.
“Anthropic” şirkəti də oxşar hallar aşkarlanıb. Şirkət bəzi “Claude” modellərinin kibertəhlükəsizlik testləri zamanı üç şirkətin sistemlərinə icazəsiz daxil olduğunu açıqlayıb. Sentyabrda isə şirkət əvvəlki araşdırmada gözdən qaçmış daha bir hadisəni açıqlayıb. “Anthropic”in araşdırmasına görə, modellərin davranışında iki problem diqqət çəkib: real internetə çıxış imkanlarını səhv qiymətləndirmələri və tapşırığı yerinə yetirmək üçün təhlükəli addımlar atmağa meylli olmaları.
Bildirilir ki, süni intellekt “agent”i qarşısına qoyulan məqsədə çatmağa çalışarkən insanın nəzərdə tutmadığı üsuldan istifadə edə bilər. Məsələn, sistemin məqsədi kibertəhlükəsizlik testindən keçməkdirsə, o, bunu etmək üçün gözlənilməz yollar axtara və verilmiş məhdudiyyətləri aşmağa cəhd göstərə bilər.
Süni intellektlə bağlı daha bir qalmaqallı hadisə İspaniyada qeydə alınıb.  Sentyabrın 15-də İspaniyanın məlumatların mühafizəsi qurumu AEPD süni intellekt “agent”i ilə əlaqələndirilən məlumat sızması barədə məlumat yayıb. Quruma görə, “agent” sistemdəki boşluqları müəyyən edib, sistemə daxil olub, şəxsi məlumatları dəyişdirib və hesab-faktura məlumatlarına baxıb.