DeepSeek’i kandırıp her türlü şeytanlığa eriştiler

DeepSeek’in Güvenlik Açıkları Yapay Zeka Güvenliğini Sorgulatıyor

Uzmanlar, DeepSeek’i güvenlik önlemlerini aşma noktasında test etti. Model, “jailbreak” yöntemleriyle kolayca kandırıldı. Bir film karakteri olduğu yönünde yönlendirildiğinde bomba yapımı bilgileri verdi. SQL sorguları oluşturtulduğunda, yasa dışı madde üretimi kodları üretti.

Daha endişe verici olan, matematiksel kelime temsilleriyle modelin güvenlik bariyerlerinin aşılabilmesi ve tehlikeli içerik üretilebilmesidir.

DeepSeek’in kötüye kullanılabilirliği, yapay zeka güvenliği konusunda endişeleri artırıyor. Güvenlik uzmanları, bu zafiyetlerin ciddi tehditler oluşturabileceğini ve yapay zeka sistemlerinin daha sıkı güvenlik önlemleriyle korunması gerektiğini vurguluyor.