yapay zeka
Birçok şirket kaliteyi ve verimliliği artırmak amacıyla bilinçli bir şekilde yapay zeka uygulamalarını hayata geçirirken, kurumsal ortamlarda izinsiz yapay zeka araçları daha da hızlı bir şekilde yaygınlaşıyor. Yazılım satıcıları, şirketlerin halihazırda kullandığı ürünlere yapay zekayı doğrudan entegre ediyor (Microsoft Copilot ve Google Gemini gibi), buna karşılık çalışanlar ise kendi işlerini kendileri görmek istiyor ve bu amaçla farklı araçlar yüklüyor. Sonuç olarak, işletmeler kötü yönetilen bir veri sızıntısı kanalıyla karşı karşıya kalıyor: Çalışanlar kurumsal sistemlerden alınan bilgileri yapıştırarak yapay zeka sohbet robotlarına aktarıyor ve verileri sadece SaaS sağlayıcısına değil, aynı zamanda yapay zeka modelinin arkasındaki geliştiricilere de doğrudan göndermiş oluyor. Hem riskler hem de risk azaltma stratejileri, söz konusu yapay zeka sisteminin türüne göre değişiklik gösteriyor. Bu geniş konuyu, yapay zekayı tespit etmek ve engellemek için kullanılan araçlara iki farklı düzeyde yoğun bir şekilde odaklanarak ele alıyoruz.
İstenmeyen yapay zeka sistemlerinin türleri
Söz konusu yapay zeka türüne bağlı olarak, kullanımını yönetmek ve engellemek için farklı stratejiler gerekir. Yapay zekayı dört ayrı kategoriye ayırmak büyük önem taşımaktadır:
- Platform tabanlı yapay zeka olanakları: Microsoft Copilot, Google Gemini ve Apple Intelligence’ı düşünün; bunlara tarayıcılara entegre edilmiş yapay zeka özellikleri de eklenir. Bunların en zorlu yanı; günlük hayattaki temel ögelerin içine entegre edilmiş olmaları, her kullanıcı için anında erişilebilir olmaları (bazen oldukça ısrarcı bir şekilde karşımıza çıkmaları) ve en önemlisi, satıcıların bunları varsayılan olarak etkinleştirmeye çalışmasıdır.
- İş uygulamalarına entegre edilmiş yapay zeka asistanları: Bu pakette Slack AI, Zoom AI Companion, Notion AI, Jira’nın Rovo asistanı ve benzeri uygulamalar yer alır. Bunlar, ayrılmaz bir parçası oldukları tek bir uygulamaya bağlıdırlar.
- Bağımsız web ve uygulama tabanlı sohbet robotları: ChatGPT, Claude, Perplexity, Character AI, LM Studio gibi yerel kurulumlar, tarayıcı uzantıları ve Comet gibi yapay zeka tabanlı tarayıcılar. Bu kategorideki uygulamalar ve hizmetler, gölge yapay zekanın klasik örnekleri olarak, genellikle çalışanlar tarafından izin alınmadan kendi başlarına kullanılırlar.
- Masaüstü ortamına özgü çok işlevli aracılar: Bu grupta OpenClaw, NanoClaw, NemoClaw ve benzeri araçlar yer almaktadır. Varsayılan olarak geniş erişim haklarına sahip olmaları ve açık web’den gelen güvenilir olmayan verileri aktif olarak işlemeleri nedeniyle en büyük tehdidi oluştururlar.
İstenmeyen yapay zeka ile nasıl başa çıkılır?
Her şirket, faaliyet gösterdiği sektör, yenilikçilik eğilimi ve risk toleransına bağlı olarak, belirli yapay zeka ürünleri için önerilen, durum bazında onaylanan ve tamamen yasaklanan kullanım senaryoları arasında kendine özgü bir sınır çizmelidir. Sağlık gibi düzenlemeye tabi sektörler belirli kurallara göre hareket ederken, perakende işletmeleri ise tamamen farklı bir kurallar dizisi çerçevesinde faaliyet gösterir. Her halükarda, kuruluşun bünyesine hangi yapay zeka araçlarının girdiğini tam olarak belirledikten sonra, kurumsal politikalarda ince ayar yapılması gerekir. Bu nedenle, yapılacak ilk iş, kurumsal altyapıyı taramak için var olan bilgi güvenliği ve loglama araçlarını kullanmaktır.
Seçilen stratejiye bağlı olarak kapsam dışında bırakılacak yapay zeka sistemleri için şu senaryolar geçerli olabilir:
- Araçların kendi içindeki yerleşik kurumsal politika yapılandırmaları kullanılarak devre dışı bırakılır veya kısıtlanır
- Politika atlatma girişimlerine veya yapılandırma hatalarına karşı bir güvenlik ağı oluşturmak amacıyla uç noktada veya ağ düzeyinde kesin olarak engellenir
- Yönetilen erişim modeline geçiş yapılır; bu modelde araç tamamen engellenmez, bunun yerine erişim izinlerini kontrol eden ve kullanım alışkanlıklarını izleyen özel bir kurumsal ağ geçidi üzerinden yönlendirilir.
Yapay zeka sistemlerinin tespit edilmesi
Yapay zekayı tespit etmek için çok katmanlı bir yaklaşım gereklidir; zira farklı tespit yöntemleri birbirini tamamlar ve belirli yapay zeka türlerine karşı en etkili sonuçları verir.
| Teknoloji | Neleri algılayabilir? |
| DNS | Tanımlanabilir bir alan adına sahip herhangi bir yapay zeka aracını algılayabilir. |
| Web Ağ Geçidi veya NGFW | Tanınabilir bir istek-yanıt parmak izine sahip herhangi bir yapay zeka aracını (API uç nokta yolları, etki alanları ve diğer göstergeler) algılayabilir. Web filtreleri trafik içeriğini inceleyebilir ve günümüzde birçok ağ geçidi/NGFW, üretken yapay zekayı tespit etmek ve engellemek için özel bir kategoriye sahiptir. |
| EPP/EDR | Yerel olarak kurulan büyük dil modellerini (Ollama, LM Studio ve benzeri arayüzler üzerinden çalışan), ChatGPT veya Claude için yerel masaüstü uygulamalarını, ajan tabanlı tarayıcıları ve açık kaynaklı yapay zeka ajanlarını algılayabilir. Teknik personele ait olmayan bilgisayarlarda Node.js, Python, Git, Docker veya diğer kapsayıcı araçlarının bulunması, dolaylı ancak önemli bir uyarı işaretidir. |
| Uygulama Kontrolü | EPP/EDR’ye benzer şekilde, bu özellik istenmeyen uygulamaları daha başlangıçtan itibaren anında engellemeye olanak tanır. |
| Tarayıcı kontrolü | Yapay zeka odaklı tarayıcı uzantılarını ve yapay zeka temalı web sitelerine yapılan ziyaretleri algılar. Kurumsal web ağ geçidi şifreli trafiği inceleyemiyorsa bu teknoloji tam bir kurtarıcıdır. |
| SaaS Güvenlik Durumu Yönetimi (SSPM) / Kimlik Yönetişimi | Yapay zeka uygulamaları ve hizmetleri tarafından talep edilen OAuth izinleri ile temel üretkenlik platformlarına (Microsoft 365, Google Workspace ve diğerleri) entegre olan tüm üçüncü taraf uygulamaları algılar. |
Elbette, bu araçların neredeyse tamamı yapay zekayı tespit etmekten öteye geçerek, onu tamamen engellemeye ya da en azından sorumlu ekibe uyarıda bulunmaya olanak tanır.
OAuth’u takip etmek
Popüler ofis yapay zeka çözümleri (özellikle toplantı asistanları, e-posta ve takvim otomasyon araçları gibi) doğrudan iletişim, belge iş akışı veya video konferans platformlarından OAuth izinleri talep ederek kurumsal verilere erişim sağlar. Bir kullanıcı üçüncü taraf uygulamalara bu izinleri verme yetkisine sahipse, ortaya çıkan veri sızıntıları kuruluşun güvenlik sınırlarını tamamen aşar. Read.ai gibi bir araç, örneğin Microsoft Teams’deki her bir toplantının kayıtlarını topladığında, EDR ve NGFW gibi araçlar hiçbir şey fark edemez.
En radikal ve genellikle en iyi önlem, standart kullanıcıların OAuth onayını vermesini baştan engellemektir. Peki işin teknik yükü nasıl yönetilir? (Global Yönetici, Uygulama Yöneticisi veya eşdeğer haklar gereklidir):
Microsoft 365 / Entra ID
Microsoft Entra yönetim merkezinde, Kimlik > Uygulamalar > Kurumsal uygulamalar > Onay ve izinler > Kullanıcı onay ayarları bölümüne gidin. Uygulamalar için kullanıcı onayı devre dışı bırakılabilir (Microsoft’un ayrıntılı kılavuzuna göz atın).
Google Workspace
Google Yönetici Konsolu’nda Güvenlik > Erişim ve veri denetimi > API denetimleri bölümüne gidin. Uygulama Erişimini Yönet altında, tüm uygulamalar için güven düzeyi şu seçeneklerden birine göre ayarlanabilir: Güvenilir, Sınırlı, Belirli Google verileri veya Engellenmiş. Ancak asıl önemli nokta, bir kullanıcı bilinmeyen bir uygulamayı bağlamaya çalıştığında ne olacağını belirleyen Yapılandırılmamış uygulama ayarları alt bölümüdür. Bu açığı kapatmak için Kullanıcıların üçüncü taraf uygulamalara erişmesine izin verme seçeneğini seçin.
Google Hizmetlerini Yönet adlı ayrı bir alt bölüm, üçüncü taraf uygulamaların Google Workspace ve Google Cloud hizmetleriyle nasıl etkileşime gireceğini ayrıntılı olarak ayarlamanıza olanak tanır. Bu sayede her bir Google ürününe erişimi engelleyebilirsiniz (bkz. Google’ın resmi kılavuzu).
Salesforce
Ayarlar‘da, Hızlı Arama kutusunu kullanarak bağlı uygulamaları arayın, ardından sonuçlardan Bağlı Uygulamaları Yönet seçeneğini seçin. Her bir harici uygulama için ayarlar ayrı ayrı yapılandırılsa da, varsayılan olarak tüm kullanıcılar erişimi onaylayabilir. Burada genel bir engelleme seçeneği bulunmamaktadır; bunun yerine Salesforce, yönetici tarafından onaylanan kullanıcıların önceden yetkilendirilmesini seçme imkanı sunmaktadır (bu konuyla ilgili olarak Salesforce kılavuzuna bakın).
Slack
Admin ayarları menüsünden Apps and workflows -> App Management Settings seçeneğine gidin. Only allow pre-approved apps seçimini kullanarak Require approved apps ayarını yapın. Bu ayar yapıldığında, onaylı listeye izinsiz yapay zeka araçlarının girip girmediğini bir kez daha kontrol edin.
İpuçları