Yapay zeka ajanları kılığına girmiş kötü amaçlı yazılımlar

Kısa bir süre önce, kötü niyetli aktörlerin Google Ads aracılığıyla macOS için AMOS bilgi hırsızını nasıl yaydıklarını ve bunu yapmak için OpenAI’nin resmi web sitesindeki bir yapay zeka asistanıyla yapılan sohbeti kötü amaçlı talimatları barındırmak üzere nasıl kullandıklarını ele almıştık. Konuyu biraz daha derinlemesine araştırmaya karar verdik ve saldırganların, Google Arama reklamları aracılığıyla popüler yapay zeka araçları kılığına girmiş kötü amaçlı yazılımları kullanıcılara sızdırmaya çalıştığı birkaç benzer kötü niyetli kampanya tespit ettik. Mağdurlar macOS’a özel araçlar arıyorsa, dağıtılan yük yine aynı AMOS’tur; Windows kullanıyorlarsa ise bunun yerine Amatera bilgi hırsızı kullanılır. Bu kampanyalar, popüler Çin yapay zekası Doubao’yu, viral olan yapay zeka asistanı OpenClaw’ı veya kodlama asistanı Claude Code’u yem olarak kullanıyor. Bu, bu tür kampanyaların sadece ev kullanıcıları için değil, aynı zamanda kuruluşlar için de bir tehdit oluşturduğu anlamına geliyor.

Gerçek şu ki, şirket çalışanları Claude Code gibi kodlama yardımcılarını ve OpenClaw gibi iş akışı otomasyon araçlarını giderek daha fazla kullanıyor. Bu durumun kendine özgü riskleri bulunuyor; bu nedenle birçok kuruluş, bu tür araçlara erişimi henüz resmi olarak onaylamamış (veya masraflarını karşılamamış) durumda. Sonuç olarak, bazı çalışanlar bu popüler araçları bulmak için ipleri kendi ellerine alıyor ve doğrudan Google’a yöneliyor. Kullanıcılar bir arama sorgusu giriyor ve kötü amaçlı bir yükleme kılavuzuna yönlendiren sponsorlu bir bağlantı ile karşılaşıyor. Mart ayı başında ortaya çıkarılan bir Claude Code dağıtım kampanyasını örnek alarak, bu saldırının nasıl gerçekleştiğine daha yakından bakalım.

Arama sorgusu

Şöyle ki, bir kullanıcı Anthropic ajanı indirebileceği bir yer aramaya başlar ve arama çubuğuna “Claude Code indir” gibi bir şey yazar. Arama motoru, en üstte “sponsorlu bağlantılar” (ücretli reklamlar) ile birlikte bir bağlantı listesi verir. Bu reklamlardan biri, kullanıcıyı sahte belgeler içeren kötü amaçlı bir sayfaya yönlendirir. İlginç bir şekilde, site, kimlik avı filtrelerini atlatmasına yardımcı olan güvenilir bir web sitesi oluşturucu olan Squarespace üzerinde kurulmuştur.

Romanya ve Brezilya’da reklamların yer aldığı arama sonuçları

Saldırganların sitesi, kurulum talimatları da dahil olmak üzere orijinal Claude Code belgelerini titizlikle taklit eder. Tıpkı gerçekte olduğu gibi, kullanıcıdan bir komutu kopyalayıp çalıştırmasını ister. Ancak, çalıştırıldığında bir yapay zeka ajanı değil, kötü amaçlı yazılım yükler. Esasen bu, ClickFix saldırısının bir başka çeşididir ve kendine özgü bir takma ad bile kazanmıştır: InstallFix.

Yükleme talimatlarını taklit eden kötü amaçlı site

Yükleme talimatlarını içeren orijinal Claude Code sitesi

Zararlı yük

Tıpkı orijinal Claude Code’da olduğu gibi, macOS için olan komut da curl komut satırı yardımcı programını kullanarak bir uygulamayı yüklemeye çalışır. Aslında, bu saldırı, Securelist’teki uzmanlarımız tarafından daha önce ele alınan ve geçmişte benzer bir saldırı kampanyasında da kullanılan AMOS casus yazılımını yayar.

Windows’ta bu kötü amaçlı yazılım, orijinal Claude Code’da kullanılan curl yerine HTML tabanlı uygulamaları çalıştıran mshta.exe sistem yardımcı programı aracılığıyla yüklenir. Bu yardımcı program, tarayıcı verilerini, kripto cüzdan bilgilerini ve kullanıcı klasöründeki bilgileri toplayan ve bunları 144.124.235.102 adresindeki uzak bir sunucuya gönderen Amatera bilgi hırsızını yükler.

Şirketinizin güvenliğini nasıl sağlayabilirsiniz?

Yapay zeka ajanlarına ilgi giderek artıyor; yeni araçların ortaya çıkması ve bunların artan popülaritesi, yeni saldırı vektörleri yaratır. Özellikle, üçüncü taraf yapay zeka araçlarını kullanmaya çalışmak, kurbanın bilgisayarındaki projelerin kaynak kodunu tehlikeye atmakla kalmayıp; gizli bilgilerin, şirketin gizli dosyalarının ve kullanıcı hesaplarının ele geçirilmesine de yol açabilir.

Bunun yaşanmasını önlemek için atılması gereken ilk adım, çalışanları bu tehlikeler ve siber suçluların kullandığı hileler konusunda bilgilendirmek olmalıdır. Bu, kurumsal ortamlarda yapay zeka kullanımına dair özel bir ders de içeren eğitim platformumuz Kaspersky Automated Security Awareness kullanılarak gerçekleştirilebilir. Buna ek olarak, tüm kurumsal cihazların kendini kanıtlamış siber güvenlik çözümleriyle korunmasını tavsiye ediyoruz.

Ayrıca, gölge yapay zeka kullanımının risklerini en aza indirgemek için üç yaklaşımı ele alan daha önce yayınladığımız makalemize de göz atmanızı öneririz.