Yargıda Yeni Güvenlik Riski: Dilekçede Prompt Injection

Yapay zekânın yargı süreçlerine entegrasyonu derinleştikçe, yeni güvenlik ve etik sorunları da beraberinde gelmektedir. Bunlardan en dikkat çekici olanı “prompt injection” tekniğidir. Bu yöntem, mahkemeye sunulan dilekçe, savunma veya ek belgelerin içine, insan gözüyle kolayca fark edilmeyen (genellikle beyaz zemin üzerine beyaz yazı ile) talimatlar gizleyerek, belgeyi okuyan yapay zekâ modelinin davranışını değiştirmeyi amaçlamaktadır.

Prompt Injection Nedir ve Nasıl İşler?

Büyük dil modelleri (LLM), kendilerine verilen talimat ile incelenecek içeriği her zaman net biçimde ayıramamaktadır. OWASP tarafından büyük dil modelleri için en kritik güvenlik risklerinden biri olarak sınıflandırılan prompt injection, özellikle “dolaylı prompt injection” türünde, dış kaynaklardan gelen belgeler üzerinden sistemin asıl görevini değiştirebilmektedir. NIST’in de belirttiği üzere, görünmeyen metin, metadata veya PDF içindeki talimatlar, yapay zekânın karar taslağı hazırlama, özetleme veya sınıflandırma gibi işlevlerini manipüle edebilmektedir.

Uluslararası Örnekler ve Yargısal Tepkiler

ABD – Connecticut Örneği

Connecticut Yüksek Mahkemesi Yargıcı Walter Spader Jr., Matthew Elliott’ın 24 Temmuz’da elektronik olarak sunduğu belgelerde, çok küçük ve beyaz renkte gizli metinler tespit etmiştir. Bu metinler, yapay zekâdan Elliott lehine karar üretmesini ve daha önce aleyhine verilmiş ara kararı düzeltmesini talep ediyordu. Mahkeme, bunu “prompt injection girişimi” olarak nitelendirmiş, Elliott’ın elektronik dosyalama yetkisini kaldırmış ve bundan sonraki belgelerini fiziksel olarak sunmasına hükmetmiştir.

Dikkat çekici nokta, Connecticut yargısının o tarihte yapay zekâ kullanmıyor olmasıdır. Mahkeme, gizli talimatın hiçbir kararı etkilemediğini belirtmiş ancak yargılama sürecinin şeffaflığı ve açıklığı ile bağdaşmadığını vurgulamıştır.

Brezilya’da Artan Vakalar

Brezilya, prompt injection’ın yargı sisteminde sistematik bir sorun haline geldiği ilk ülke olmuştur. Pará eyaletinde iki avukat, Mayıs ayında sundukları dilekçeye beyaz yazı ile gizli talimat eklemiş, yapay zekânın davalının savunmasını yüzeysel özetlemesini ve ekli belgeleri derinlemesine incelemeden karar vermesini istemiştir. Galileu adlı yapay zekâ sistemi talimatı tespit etmiş, mahkeme bunu usulî kötü niyet olarak değerlendirmiş ve avukatlara dava bedelinin %10’u oranında (yaklaşık 84 bin real) para cezası vermiştir.

Brezilya Yüksek Adalet Mahkemesi (STJ), kendi sisteminde de benzer girişimlerin tespit edildiğini açıklamış, STJ Başkanı Herman Benjamin, polis soruşturması ve idari inceleme başlatıldığını duyurmuştur. São Paulo, Santa Catarina ve diğer eyaletlerde de benzer vakalar görülmüş, avukatlara para cezaları verilmiş ve dosyalar savcılık, baro ve denetim mercilerine iletilmiştir.

Bu vakalar üzerine Brezilya Ulusal Adalet Konseyi (CNJ), 9 Haziran’da “Proseg-IA – Yargı Yapay Zekâ Sistemleri Adversarial Güvenlik Programı”nı oybirliğiyle kabul etmiştir. Program, dış belgelerin “güvenilmeyen veri” olarak ele alınmasını, metadata ve gizli metin kontrollerini, izlenebilirlik, insan gözetimi ve olay müdahale mekanizmalarını zorunlu kılmaktadır.

Halüsinasyon ile Prompt Injection Arasındaki Fark

Halüsinasyonda yapay zekâ kendi hatasıyla yanlış bilgi üretirken, prompt injection’da kötü niyetli bir aktör (avukat, taraf veya bilirkişi) sistemi kasıtlı olarak yanıltmaya çalışmaktadır. Bu durum, riskin kaynağını yalnızca modelin güvenilmezliğinden çıkarıp, adil yargılanma ilkelerine (silahların eşitliği, tarafsızlık, çelişmeli yargılama, gerekçeli karar hakkı) doğrudan etki eden bir mesele haline getirmektedir.

Türkiye için Risk ve Öneriler

Türkiye’de henüz kamuoyuna yansımış bir prompt injection vakası bulunmamaktadır. Ancak Yargıtay’ın 2024 ve 2025 faaliyet raporlarında dosya özetleme, gerekçeli karar yazımı ve takrir raporu hazırlama süreçlerinde yapay zekâ geliştirme hedefleri açıkça yer almaktadır.

Bu doğrultuda Türkiye’de de şu hususların acilen ele alınması gerekmektedir:

• UYAP üzerinden gelen PDF, Word ve taranmış belgelerin yapay zekâya “güvenilmeyen veri” olarak verilmesi,
• Gizli metin, olağandışı metadata ve talimat kontrollerinin yapılması,
• Yapay zekânın ürettiği özet, rapor veya karar taslağının hangi belge parçalarından etkilendiğini gösteren denetim izi (audit trail) mekanizması,
• Mesleki sorumluluk, avukatlık etiği ve KVKK açısından AI governance politikalarının oluşturulması.

Connecticut kararı, başarılı bir manipülasyon olmasa dahi gizli talimat yerleştirmenin yargılama bütünlüğüne aykırı olduğunu ortaya koymuştur. Bu yaklaşım Türkiye’de de usul hukuku, avukatlık mesleği ve yargı etiği açısından emsal oluşturabilir.

Sonuç

Prompt injection, yapay zekânın yargıdaki kullanımını salt verimlilik meselesi olmaktan çıkarıp, sistem mimarisi, güvenlik tasarımı ve adil yargılanma ilkeleriyle doğrudan bağlantılı bir konuya dönüştürmüştür. Brezilya’nın CNJ üzerinden ulusal bir güvenlik çerçevesi oluşturması, Türkiye için de önemli bir referanstır.

Avukatlar ve hukuk profesyonelleri, hem kendi dilekçelerinde etik sınırları korumak hem de müvekkil dosyalarını AI destekli sistemlere yüklerken güvenlik risklerini yönetmek zorundadır. Geleceğin yargı sistemlerinde mahkemeler, belgelerin “ne dediğini” değil, “yapay zekâya ne yaptırmaya çalıştığını” da denetlemek durumunda kalacaktır.

Okuma süresi: 14 dakika

Anahtar Kelimeler: Prompt Injection, Yapay Zekâ Güvenliği, Adil Yargılanma, Yargıtay Yapay Zekâ Projeleri, Brezilya CNJ, Usulî Kötü Niyet, Avukatlık Etiği