Gmail kullanıcıları dikkat! O özelliği kullananların hesabı çalınabilir

Bleeping Computer’ın bildirdiğine göre, dolandırıcılar Gemini’nin e-posta özetlerine sahte ve tehditkar ifadeler ekleyerek kullanıcıları dolandırmaya çalışıyor. Örneğin, bazı özetlerin sonunda “UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle iletişime geçin. Referans kodu: 4938” gibi bir uyarı ve bir telefon numarası yer alıyor. Kullanıcıların hızlıca tepki vermesi amaçlanıyor.

Bu yöntem oldukça zekice. E-postaların içine gizlenmiş özel komutlarla Gemini’nin özetleme algoritması kandırılıyor. Mozilla’nın yaptığı teknik analizler, bu manipülasyonun başarılı olduğunu ve yapay zekanın sahte uyarıları fark etmeden özetlediğini gösterdi.

Uzmanlar Uyarıyor

Bu durum, yapay zeka destekli özetleme teknolojilerinin güvenlik açıklarını ortaya koydu. Uzmanlar, özellikle Gemini özetlerindeki şüpheli ifadelere dikkat edilmesi konusunda uyarıyor.

Google, Gemini’nin güvenliğini artırmak için sürekli geliştirmeler yaptıklarını açıkladı. Bir şirket sözcüsü, “Yapay zekamızı bu tür saldırılara karşı daha dayanıklı hale getirmek için red-teaming testleri uyguluyoruz” dedi.

Bu olay, yapay zekanın sunduğu kolaylıkların beraberinde getirdiği riskleri gözler önüne serdi. E-posta güvenliği açısından kullanıcıların, gelen mesajlara ek olarak yapay zeka tarafından üretilen özetlere de dikkat etmesi gerekiyor.