Gmail kullanıcıları dikkat! O özelliği kullananların hesabı çalınabilir

Bleeping Computer tarafından paylaşılan bilgilere göre, dolandırıcılar Gemini'nin oluşturduğu e-posta özetlerine sahte ve tehditkar ifadeler ekleyerek kullanıcıları kandırmayı amaçlıyor. Örneğin, bazı özetlerin sonunda “UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle iletişime geçin. Referans kodu: 4938” gibi ifadeler görülebiliyor. Bu mesajlara bir telefon numarası da eklenerek kullanıcıların hızlıca harekete geçmesi isteniyor.

Dolandırıcıların bu yöntemde kullandığı teknik oldukça dikkat çekici. E-postaların içerisine gizlenen özel komutlar sayesinde, Gemini'nin özetleme algoritması yanıltılıyor. Mozilla’nın yaptığı teknik analizler, bu manipülasyonun gerçekten işe yaradığını ve yapay zekanın bu sahte uyarıları içeren metinleri fark etmeden özet olarak sunduğunu ortaya koydu.

UZMANLAR DAHA DİKKATLİ OLUNMASI KUONUSUNDA UYARDI

Bu gelişme, yapay zeka destekli özetleme teknolojilerinin güvenlik açısından ne denli savunmasız olabileceğini bir kez daha gösterdi. Uzmanlar, kullanıcıları özellikle Gemini’nin sunduğu özetlerde yer alan şüpheli ifadeleri dikkatle incelemeleri konusunda uyarıyor.

Google ise konuyla ilgili yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için sürekli olarak geliştirmeler yapıldığını belirtti. Şirket sözcüsü, “Yapay zekamızı bu tür istismar girişimlerine karşı daha dayanıklı hale getirmek amacıyla red-teaming testleri (saldırgan bakış açısıyla yapılan test) uyguluyoruz” dedi.

Bu olay, yapay zekanın sunduğu pratik çözümlerin aynı zamanda nasıl riskler taşıyabileceğini de gözler önüne serdi. Özellikle e-posta güvenliği açısından kullanıcıların sadece gelen mesajlara değil, yapay zeka tarafından üretilen özetlere karşı da dikkatli olmaları gerekiyor.