Çin süni zəka modeli DeepSeek R1 bütün təhlükəsizlik testlərindən uğursuz çıxdı

Ferra.ru-ya istinadən Mediahub.az xəbər saytı məlumat verir ki, Çin şirkəti DeepSeek-in süni zəka modeli R1 50 fərqli kibertəhlükəsizlik testindən keçə bilməyib.

DeepSeek R1 təhlükəsizlik testlərindən uğursuz çıxdı

Cisco şirkətinin tədqiqatçıları DeepSeek R1 modelini HarmBench test kitabxanasından istifadə edərək sınaqdan keçiriblər. Bu testlər əsasən zərərli məzmunun yayılması, kiberhücumlar və dezinformasiya mövzularına fokuslanıb.

Son Xəbərlər

Xiaomi 15 Ultra Qlobal Versiyası

Xiaomi yeni flaqman modeli Xiaomi 15 Ultra-nı qlobal satışa çıxaracağını təsdiqlədi. HyperOS 2.0 ilə yeni dövr başlayır!

Daha ətraflı

Samsung-un Üçqatlanan Telefonu

Samsung, Galaxy Unpacked tədbirində üçqatlanan telefon konseptini təqdim etdi. Yeniliklər haqqında daha çox məlumat əldə edin.

Daha ətraflı

Realme GT 7: Ən Ucuz Smartfon

Snapdragon 8 Elite çipi ilə Realme GT 7 fevral ayında təqdim ediləcək. Yeni xüsusiyyətlər və uyğun qiymət gözləyir.

Daha ətraflı

Nəticələr göstərib ki, model digər süni zəka modelləri ilə müqayisədə daha zəif performans nümayiş etdirib. O, OpenAI-ın o1 modeli ilə müqayisədə daha çox təhlükəsizlik boşluqlarına malikdir.

50 müxtəlif hücum testinin hamısı uğurla həyata keçirildi

Aparılan təcrübələrdə DeepSeek R1 modeli 50 fərqli jailbreak texnikasına qarşı müqavimət göstərə bilməyib. Jailbreak texnikaları istifadəçilərə süni zəka modellərinin təhlükəsizlik məhdudiyyətlərini aşaraq qadağan olunmuş məzmun yaratmağa imkan verir.

Mütəxəssislər bildirirlər ki, bu cür zəifliklər süni zəkanın etik və təhlükəsiz istifadəsi üçün ciddi problem yaradır.

Mütəxəssislərdən xəbərdarlıq

Kibertəhlükəsizlik üzrə mütəxəssis Alex Polyakov (Adversa AI) xəbərdarlıq edib ki, bəzi zəifliklərin aradan qaldırılması mümkün olsa da, risklər həmişə qalacaq.

"Süni zəka modellərinin daimi test olunması və nəzarət altında saxlanılması vacibdir. Əks halda, bu texnologiyalar təhlükəli məqsədlərlə istifadə oluna bilər," - deyə Polyakov bildirib.

DeepSeek R1 və süni zəkanın gələcəyi

DeepSeek şirkəti hələlik bu zəifliklərlə bağlı rəsmi açıqlama verməyib. Lakin ekspertlər süni zəkanın təhlükəsiz istifadəsi üçün daha ciddi tədbirlərin görülməli olduğunu vurğulayırlar.

Açar Terminlər:

• Jailbreak – Süni zəka modellərində təhlükəsizlik məhdudiyyətlərini aşmaq üçün istifadə olunan üsul.
• HarmBench – Süni zəka modellərinin təhlükəsizliyini yoxlamaq üçün istifadə edilən test kitabxanası.
• Kibertəhlükəsizlik – Rəqəmsal sistemləri haker hücumlarından və təhlükələrdən qoruma üsulları.