Süni intellekt sənayesində indiyədək görünməmiş insident baş verib.
ABŞ-ın aparıcı süni intellekt şirkəti olan «OpenAI» yeni süni modellərin sınağı zamanı onların üzərində nəzarəti itirdiyini etiraf edib.
OpenAI ilə bağlı araşdırma başlayıb
FED.az xəbər verir ki, şirkətdaxili sınaqlar zamanı OpenAI-ın yeni süni intellekt modelləri gözlənilmədən internetə çıxış əldə edib, müstəqil olaraq digər şirkət olane «Hugging Face» platformasına hücum etməyi qərara alıb və bu şirkətin qorunma sistemində zəif yerləri tapıblar.
«OpenAI» şirkəti bu hadisəni yeni süni intellekt modellərinin daxili sınaqları zamanı baş verən "misli görünməmiş kiberhadisə" adlandırıb.
Hadisə, «OpenAI»nin daha güclü variantı, hələlik istifadəyə verilməmiş GPT-5.6» adlanan modelindən gedir. Adətən belə modellərdə təhlükəli hərəkətlər edə bilən funksiyalara məhdudiyyət qoyulur. Amma bu dəfə test zamanı layihənin müəllifləri onların real imkanlarına baxmaq üçün həmin məhdudiyyətlərin bir hissəsini aradan qaldırıblar.
Nəticədə «sərbəstlik» əldə edən süni intellekt modelləri əvvəlcə «OpenAI»nin tədqiqat sistemində bir neçə zəifliyi aşkar edib birləşdiriblər.
Daha sonra modellər düşünüblər ki, ExploitGym testi üçün lazım olan məlumatlar «Hugging Face» platformasında ola bilər. Ona görə də, süni intellkət oğurlanmış etimadnamələrdən istifadə edərək lazımi kodu tapıb və şirkətin serverlərinə daxil olublar.
Bu proses sınaq zamanı baş verdiyinə görə, «OpenAI» mütəxəssisləri süni intellektin şübhəli hərəkətlərini dərhal aşkar ediblər. «Hugging Face» komandası isə bu hücumu dayandıra bilib.
Hadisədən sonra «OpenAI» öz sisteminin təhlükəsizliyini gücləndirəcəyini və belə testləri daha ehtiyatla aparacağını elan edib. Şirkət hesab edir ki, bu hadisə göstərir ki, müasir süni intellekt modelləri real kompüter sistemlərini sındırmaq üçün müstəqil şəkildə yeni yollar tapmağa qadirdirlər.
Hugging Face süni intellekt modelləri və maşın öyrənmə vasitələri hazırlamaq və dərc etmək üçün Amerika platformasıdır. Bu platforma tərtibatçılara və tədqiqatçılara süni intellekt modellərini, məlumat dəstlərini və kodlarını paylaşmağa imkan verir. Platforma süni intellekt modellərinin ən böyük açıq depolarından biri hesab olunur.
Xatırladaq ki, ABŞ-ın «OpenAI» şirkəti dünyada süni intellekt sistemlərinin əsas istehsalçısıdır. Şirkət 2015-ci ildə təsis edilib və baş ofisi San-Fransiskoda yerləşir. «ChatGPT» çatbotu və GPT dil modelləri də məhz «OpenAI» tərəfindən yaradılıb.
