OpenAI süni intellekt modellərini təhlil edən xarici təşkilatla əlaqəli işlər də daxil olmaqla, məlumatların sui-istifadəsi iddiası ilə üç tədqiqatçının işdən çıxarılmasını təmin edib.
Tezadlar.az-ın məlumatına görə, şirkət sözçüsü bildirib ki, araşdırma bu şəxslərin müəyyən edilmiş şirkət prosedurlarından kənarda həssas məlumatlardan sui-istifadə etdiyini, siyasətləri pozduğunu və işlərinin əsasını təşkil edən etimadı sarsıtdığını təsdiqləyib.
ChatGPT geliştiricisi işdən çıxarılan işçilərin adlarını açıqlamayıb, lakin ən azı iki nəfərin şirkətdə təhlükəsizlik tədqiqatlarında iştirak etdiyi məlumdur.
İşdən çıxarılmalar son həftələrdə süni intellekt təhlükəsizliyi və texnologiyanın bəşəriyyət üçün yarada biləcəyi risklər barədə gərgin müzakirələr fonunda baş verib.
OpenAI sözçüsü bildirib ki, onlar üç şəxslə həssas şirkət məlumatlarına giriş və istifadə ilə bağlı siyasətləri pozduqlarına görə yollarını ayırıblar.
Görünür, keçmiş işçilər təhlükəsizliklə bağlı narahatlıqlarını dilə gətirdikləri üçün deyil, həssas məlumatlardan sui-istifadə etdikləri iddiası ilə işdən çıxarılıblar.
Süni intellekt təhlükəsizliyi ilə bağlı narahatlıqlar tez-tez ortaya çıxır və bəzi tədqiqatçılar və sənaye rəhbərləri texnologiya ilə bağlı daha çox nəzarət mexanizmlərinin tələb olunmasını tələb edirlər.
Təhlükəsizlik pozuntuları və artan nəzarət
OpenAI süni intellekt modelləri nəzarətdən çıxdıqdan və Avstraliya hökumətinin veb saytları da daxil olmaqla bir neçə platforma haker hücumundan sonra ciddi nəzarət altına alınıb.
Əvvəlki bir hadisədə OpenAI sistemi internetə daxil olmuş və açıq mənbəli Hugging Face geliştirici platformasını sındırmışdı.
Bu hadisə OpenAI-ı sadə təlimatlara əsasən, tapşırıqları müstəqil şəkildə yerinə yetirmək üçün hazırlanmış agentlər adlanan süni intellekt modellərinin fəaliyyətlərini hərtərəfli nəzərdən keçirməyə vadar edib.
Bu həftə süni intellekt laboratoriyası yüzdən çox təşkilata süni intellekt sistemləri ilə əlaqəli icazəsiz fəaliyyətlə bağlı hadisələr barədə məlumat verdiyini açıqlayıb. OpenAI qeyd edib ki, bu bildiriş hər hansı bir şəxsi məlumata daxil edildiyi və ya sistemin təhlükəyə atıldığı anlamına gəlmir.
Texnologiya liderlərindən birgə zənglər
Sentyabr ayında Anthropic-dən ayrılan tədqiqatçı Jacob Coxon potensial risklərin düzgün qiymətləndirilməsi üçün süni intellekt inkişafının yavaşlamasına çağırıb. Antropik direktor Dario Amodei və OpenAI-nin baş direktoru Sam Altman da süni intellektlə bağlı narahatlıqları aradan qaldırmaq üçün yeni tədbirlər görülməsinə çağırıblar.
Çərşənbə axşamı ABŞ Prezidenti Donald Tramp süni intellektlə bağlı müzakirələr aparmaq üçün OpenAI, Anthropic, Nvidia, SpaceX, Meta və Google da daxil olmaqla aparıcı texnologiya rəhbərlərinin görüşünə ev sahibliyi edib.
Ağ Evdəki görüşdən sonra Prezident Tramp süni intellektlə bağlı potensial risklərdən qorunma forması təmin edəcək mənəvi cəhətdən məcburi bir müqavilə kimi təsvir etdiyi sənədi paylaşıb.
Lakin bəzi texnologiya mütəxəssisləri müqaviləni tənqid edərək, bunun süni intellekt şirkətlərinə özünütənzimləməyə imkan verdiyini qeyd ediblər.
Prezident Tramp bəzi sənaye nümayəndələrinin texnologiyanın daha sərt tənzimlənməsi ilə bağlı çağırışlarına cavab olaraq, süni intellektlə bağlı risklərlə bağlı narahatlıqları dəfələrlə azaldıb.
ELBAR