ChatGPT Neden Hukuki Atıf Uyduruyor ve Nasıl Korunulur?

Dünya genelinde mahkemeler, var olmayan kararlara atıf yapan dilekçeler nedeniyle avukatlara para cezası vermeye başladı. Bu vakaların ortak noktası şu: avukat, ChatGPT gibi genel amaçlı bir sohbet aracına hukuki araştırma yaptırmış, aracın ürettiği gerçekçi görünümlü ama sahte atıfları doğrulamadan dilekçeye koymuş.

Sorun, aracı kullanmak değil. Sorun, bu araçların nasıl çalıştığını ve neden atıf uydurduğunu bilmeden kullanmak. Bu yazıda mekanizmayı açıklıyor ve korunma için somut bir protokol sunuyoruz.

Neden Uyduruyor?

ChatGPT ve benzeri büyük dil modelleri, bir bilgi veri tabanından sorgu yapmaz. Eğitim verisinde gördükleri kelime dizilerinden istatistiksel olarak en olası devamı üretirler. Yani amaçları “doğru bilgiyi bulmak” değil, “akla yatkın metni üretmek”tir.

Hukuki atıf bağlamında bu, ciddi bir sorun yaratır. Model, gerçek kararların biçimini öğrenmiştir: bir esas numarası, bir karar numarası, bir tarih, bir daire adı ve karara uygun bir hukuki cümle. Bir emsal istendiğinde, model bu biçime uyan son derece gerçekçi bir metin üretebilir. Ancak ürettiği numara gerçek bir karara karşılık gelmek zorunda değildir; çünkü model numarayı hatırlamaz, biçime uygun olarak uydurur.

Buna teknik literatürde “halüsinasyon” deniyor. Model yalan söylemeye çalışmaz; doğruyla yanlışı ayırt edecek bir mekanizması yoktur. Üstelik bu çıktıları büyük bir özgüvenle, tereddütsüz bir dille sunar. İkna ediciliği, tehlikesinin kaynağıdır.

En Sık Görülen Üç Uydurma Türü

Sahte atıflar tek bir biçimde gelmez. Avukatın tanıması gereken üç tür var:

Tamamen sahte karar. Hiç var olmamış bir karar, gerçekçi bir esas ve karar numarasıyla üretilir. Numara doğrulandığında böyle bir kararın bulunmadığı görülür. En kolay yakalanan tür, çünkü doğrulama anında ortaya çıkar.

Gerçek karara sahte alıntı. Atıf yapılan karar gerçekten vardır, numara da doğrudur; ancak modelin o karara atfettiği hüküm veya görüş kararda yer almaz. Bu en tehlikeli tür, çünkü numara teyit edildiğinde sahte bir güven duygusu oluşur ve avukat metni daha fazla incelemeden kullanabilir.

Doğru atıf, çarpıtılmış sonuç. Karar doğru, alıntı da kararda var; ancak model bu karardan davayı destekler görünen yanlış bir hukuki sonuç çıkarır. En sinsi tür, çünkü ancak kararın tamamı dikkatle okunduğunda fark edilir.

Bu üç türü ayırt etmek, doğrulama yönteminin neden tek bir adımla sınırlı kalamayacağını gösterir. Yalnızca numara teyidi, ikinci ve üçüncü türü kaçırır.

Korunma Protokolü

Korunmanın temel ilkesi tek cümleyle özetlenebilir: dilekçeye giren hiçbir atıf, birincil kaynaktan doğrulanmadan kullanılmaz. Bu ilkeyi pratiğe döken bir kontrol listesi:

Atıf yapılan kararın esas ve karar numarasını resmi karar veri tabanından arayın ve gerçek bir karara karşılık geldiğini görün. Numara yoksa, atıf da yoktur.

Kararın tam metnine ulaşın. Aracın aktardığı görüşün veya hükmün kararda birebir yer aldığını kontrol edin. Numaranın doğru olması, içeriğin doğru olduğu anlamına gelmez.

Kararı kendi gözünüzle okuyun ve aracın çıkardığı hukuki sonucu kararın gerçek gerekçesiyle karşılaştırın. Çarpıtma çoğunlukla burada yakalanır.

Doğrudan alıntı yapacaksanız, alıntıyı kararın metninden kopyalayın; aracın yeniden ifade ettiği halini değil. Modeller, gerçek bir cümleyi bile farkında olmadan yeniden yazabilir.

Bu dört adım, birkaç dakikalık ek bir iş yükü getirir. Karşılığında, meslek hayatını ve müvekkil menfaatini tehdit eden bir riski tamamen ortadan kaldırır.

Doğru Aracı Seçmek

Korunmanın bir boyutu da araç seçimi. Genel amaçlı bir sohbet aracı, hukuki araştırma için tasarlanmamıştır; serbestçe metin üretir ve kaynak göstermez. Buna karşılık, resmi karar veri tabanına bağlı çalışan ve her yanıtı gerçek bir kaynağa dayandıran araçlar (kaynak getirimiyle desteklenen sistemler) yapısal olarak çok daha düşük uydurma riski taşır. Bu tür araçlar, ürettiği her atfı doğrulanabilir bir karara bağlar.

Yine de hiçbir araç doğrulama adımını ortadan kaldırmaz. Kaynağa bağlı çalışan sistemler riski büyük ölçüde azaltır, ama sıfırlamaz. Birincil kaynaktan teyit, her zaman avukatın sorumluluğunda kalır.

Mesleki Sorumluluk Boyutu

Mahkemeye sunulan her dilekçenin doğruluğundan avukat sorumludur. Bir aracın atfı uydurmuş olması, sorumluluğu ortadan kaldırmaz; çünkü doğrulama yükümlülüğü avukata aittir. Yargı mercileri bu konuda nettir: aracın hatası, avukatın özeni göstermemesinin mazereti sayılmaz.

Bu nedenle her büronun yazılı bir kullanım politikası benimsemesi yerinde olur. Politika; hangi araçların kullanılabileceğini, doğrulamanın kim tarafından ve nasıl yapılacağını ve doğrulanmamış hiçbir atfın dilekçeye girmeyeceğini açıkça belirtmeli. Hız, ancak doğrulama disipliniyle birlikte bir avantaja dönüşür; o disiplin olmadan ise bir yükümlülüğe.