ALGORİTMİK YARGILAMA KARŞISINDA İNSAN HAKLARI: ADİL YARGILANMA HAKKININ YAPAY ZEKA ÇAĞINDAKİ DÖNÜŞÜMÜ
ÖZET
İnsan zekasına özgü algılama, öğrenme, akıl yürütme ve karar verme gibi yetilerle donatılan yapay zeka teknolojilerinin gün geçtikçe hayatımızın farklı disiplinlerinde kendine yer bulmaya başlaması ile yargı süreçlerinin de otomasyon unsurlarıyla yürütülebilirliği tartışılmaya başlanmıştır. Yargılamanın asıl gayesi olan adil olmanın gerekliliği olarak ''adil yargılanma''nın bu yeni algoritmik unsurların entegrasyonu sırasında belli başlı önlemlerin alınması ile korunmasının önceliklendirilmesi gerektiği belirtilmektedir. Yargılamanın tamamen bir yapay zeka tarafından yapılması tarafsız ve önyargısız bir adalet sağlamak için yeterli olmamakla birlikte yargılamanın etkin ve hızlı işlemesine, istikrarlı bir hukuk düzenine katkı sağlamaktadır. Çalışmamızda yapay zekanın adil yargılanma güvencesini tehdit eden unsurlarına değinip alınabilecek önlemler hakkında fikir yürüterek belli başlı güncel uygulamalardan örnekleri karşılaştıracağız.
Anahtar Kelimeler: Adil yargılanma hakkı, Algoritma, Masumiyet karinesi, COMPAS.
HUMAN RIGHTS IN THE FACE OF ALGORITHMIC ADJUDICATION: THE EVOLUTION OF THE RIGHT TO A FAIR TRIAL IN THE AGE OF ARTIFICIAL INTELLIGENCE
ABSTRACT
With artificial intelligence technologies, which are endowed with faculties such as perception, learning, reasoning, and decision-making inherent to human intelligence, increasingly finding a place in different disciplines of our lives, the applicability of conducting judicial processes through automation elements has begun to be discussed. It is stated that as a requirement of being fair, which is the primary goal of judgment, the protection of the ''right to a fair trial'' must be prioritized by taking certain precautions during the integration of these new algorithmic elements. While the conduct of a trial entirely by an artificial intelligence is not sufficient to ensure impartial and unbiased justice, it contributes to the efficient and rapid functioning of the judiciary and a stable legal order. In our study, we will address the elements of artificial intelligence that threaten the guarantee of a fair trial, brainstorm possible measures, and compare examples from certain major current applications.
Keywords: Right to a fair trial, Algorithm, Presumption of innocence, COMPAS.
GİRİŞ
Dijitalleşme, pek çok alanda çok ciddi değişiklikler meydana getirmiş ve getirmeye devam etmektedir. Bu alanlar içerisinde ''yargı'' sistemleri de yer almaktadır ve insan hakları hukuku da yapay zeka gibi teknolojilerde yaşanan değişimlerin dışında kalamamıştır. Dijitalleşmenin getirdiği pek çok yenilik yargı sisteminin daha etkili, ulaşılabilir ve hızlı bir şekilde işlemesine olanak sağlamıştır. Bu dijital etkiler çoğunlukla dokümanların toplanması veya mekansal sorunlar gibi çoğunlukla olumsuz dış etkilerin giderilmesine yönelik olmuştur. Ancak teknolojinin her geçen gün gelişmesi ile birlikte ''algoritma'' temelli yapay zeka uygulamalarının yargı yeteneği kazanıp kazanamayacağı da tartışılmaya başlanmıştır. Bu da ''algoritmik karar destek'' sistemleri gibi kavramların doğmasına zemin hazırlamıştır.
Yapay zeka ve insan hakları hukuku dikkate alındığında en çok etkilenen haklar arasında adil yargılanma hakkının olduğu görülmektedir. Algoritmik karar destek sistemleri, yargılamada büyük önem arz eden ''adil yargılanma hakkı'' bakımından pek çok handikapı beraberinde getirmektedir. Özellikle ceza yargılamalarında kullanılmaya başlanacak algoritmik karar destek sistemleri, ceza yargılamalarındaki klasik ilkelerin yeniden değerlendirilmesini zorunlu hale getirecektir. Adil yargılamanın gerçekleşmesi için gözetilmesi gereken temel unsurlar olan silahların eşitliği ilkesi, masumiyet karinesi, gerekçeli karar hakkı gibi ilkelerin dijitalleşen çağın getirdiği algoritmik yargılamada nasıl yeniden değerlendirilmesi gerektiği de önem arz etmeye başlamaktadır.
Bu çalışma, algoritmik yargılama uygulamalarının adil yargılanma hakkı üzerindeki etkilerini incelemekte ve özellikle "Kara Kutu (Black Box)" niteliğindeki sistemlerin usuli güvenceleri nasıl dönüştürdüğünü analiz etmektedir. Kara kutu modeli, bir modelin iç işleyişinin kolaylıkla erişilebilir veya yorumlanabilir olmadığı şeffaf olmayan bir sistem şeklinde çalışan bir makine öğrenimi modeli anlamına gelir. Çalışma kapsamında öncelikle adil yargılanma hakkının tanımı ile muhtevası ve yapay zeka ile algoritma teknolojilerini oluşturan temel bileşenler ele alınacaktır. Bu teorik çerçeve üzerinde, algoritmik yargılama pratiklerinin adil yargılanma unsurlarını dönüştürücü etkisi analiz edilecektir. İkinci aşamada, ABD'deki risk değerlendirme sistemleri ve Avrupa'daki dijital yargı uygulamaları mukayeseli olarak incelenecektir. Son bölümde ise yapay zeka çağında usuli güvencelerin yeniden yapılandırılmasına yönelik doktrinel önerilere yer verilecektir.
I. YAPAY ZEKANIN TARİHSEL GELİŞİM SÜRECİ
İnsanlar tarih boyunca işlerini kolaylaştıracak kendilerine yardımcı araçlar geliştirme çabasında olmuşlardır. Teknolojik gelişmeler de bu çabanın ürünleri içerisinde yer almış ve İkinci Dünya Savaşı gibi küresel etkilerle birlikte teknolojinin gelişimi hız kazanmıştır.
Yapay zekanın gelişim süreci, Thomas Hobbes gibi filozofların düşünsel katkılarıyla şekillenmeye başlamıştır. Hobbes'un, insanın ''yapay hayvan'' aracılığıyla Tanrı'nın yarattığı dünya düzenini taklit ederek insan gibi çalışan araçlar üretebileceği fikri, bu teknolojinin felsefi temelini oluşturmuştur. Daha sonra Vaucanson'un ''mekanik ördek'' tasarımıyla bu felsefi düşünce mühendislik alanına taşınmış ve yapay zekanın tarihsel yolculuğu somut bir ivme kazanmıştır.
Yapay zekanın hayatımıza girdiği ilk döneme baktığımızda, pek çok teknolojik gelişmenin kaynağı olan bilim kurgu eserleriyle karşılaşırız. 1942'de Amerikalı bilim kurgu yazarı Isaac Asimov'un ''Runaround (Kovalamaca)'' eserinin, yapay zekanın ilk çıkış noktası olabileceği düşünülmektedir. Runaround, mühendis olan Gregory Powell ve Mike Donavan karakterlerinin geliştirdiği robot ve bu robot ışığında koydukları ''robot yasaları''ndan bahseden bir eserdir.
Asimov'un koyduğu bu ''robot yasaları'' şu şekildedir:
- Robot bir insana zarar vermez veya eylemsizlik yolu ile bir insanın zarar görmesine izin vermez.
- Bir robot bu tür emirler birinci yasa ile çelişmediği sürece, insanlar tarafından kendisine verilen emirlere uymalıdır.
- Bir robot, birinci veya ikinci yasa ile çelişmediği sürece kendi varlığını korumalıdır.
Asimov'un 1942'de ortaya koyduğu bu kurallar, bugünkü Yapay Zeka Etik İlkeleri'nin ve AB Yapay Zeka Tüzüğü'ndeki emniyet odaklı yaklaşımın ilham kaynağını oluşturmuştur. Yapay zekanın geliştirilmesindeki tarihsel süreçte diğer adımlar ise makinelerin düşünüp düşünemeyeceği ve insandan ayırt edilemez şekilde akıl yürütüp yürütemeyeceği gibi fikirleri test etmek üzere geliştirilmiş olan Turing Testi; Eliza, Deep Blue, AlphaGo ve son olarak hayatlarımızın pek çok alanında kullanılmaya başlanan Chat GPT gibi teknolojiler yapay zekanın birikimli gelişiminin birer yansıması olarak hayatlarımıza girmiştir.
Yapay zeka ekosistemini oluşturan temel unsurlar; algoritma, veri, büyük veri (big data), bulut teknolojileri ve makine öğrenmesi başlıkları altında sınıflandırılabilir. Bu kavramların birbirleriyle olan entegrasyonunu ve işleyiş mekanizmasını somut bir modelleme üzerinden incelemek mümkündür. Geleneksel bir esnafın tuttuğu veresiye defteri, mikro ölçekte bir ''veri'' setini temsil eder. ''Veri, gerek insanlar gerekse de programlar için öğrenmenin temelinde yatan bir unsurdur. Veriyi Teknoloji Çağı'nın en temel yapı taşı olarak nitelendirebiliriz.'' Bir müşterinin satın alma alışkanlıklarına dair tutulan kayıtlar, dijital dünyadaki arama motoru sorguları veya kullanıcı etkileşimleri birer veri olmakla birlikte bu verilerin tekil örneklemden çıkıp; tüm bir bölgeyi, farklı demografik grupları ve milyarlarca insanın anlık dijital izlerini (kalp ritmi ölçüm değerleri, konum bilgisi, sosyal medya etkileşimi vb.) kapsayacak şekilde genişlemesiyle de ''Big Data'' meydana gelmektedir. ''Büyük veri (Big Data), çevrimiçi ya da çevrimdışı olmak üzere, dijital alanda yaptığımız her hareketin iz bırakmasıdır.''
Söz konusu bu devasa veri yığınlarının muhafaza edilmesi ve işlenebilmesi için yeni bir teknolojiye ihtiyaç vardır. Bu noktada ise ''Bulut Teknolojisi'' dediğimiz teknoloji devreye girmektedir. ''Bulut Teknolojisi Yapay Zeka'nın büyük ya da küçük şirket ya da kişi fark etmeksizin Yapay Zeka teknolojisi ile bu verilerin sayısına bakılmaksızın depolanmasını, işlenmesini, saklanmasını sağlayan bir teknoloji biçimidir. Böylelikle verinin kullanılması, saklanması, işlenmesi herkes için kolaylaşmış ve ekonomik hale gelmiştir.''
Geçmiş veriler analiz edilerek bir kullanıcının gelecekteki eğilimlerinin, sağlık durumunun veya ihtiyaçlarının öngörülmesi, sistemin mevcut veri setinden bir çıkarım yapmasıdır. Yani sistem, bir nevi bir bakkalın müşterisinin sürekli şekersiz ürünleri tercih etmesinden onun şeker hastası olabileceği bilgisine ulaşması gibi geçmiş veriye bakarak geleceğe dair bir çıkarım yaparak ''Makine öğrenmesi''ni gerçekleştirir. ''Makine öğrenimini, bir çeşit veri biçimlendirmek, kavramak ve hesap yapmak temelli Yapay Zekanın alt kümesi olan bir teknoloji biçimi olarak nitelendirebiliriz. Makine öğrenimi, günümüzdeki Yapay Zeka teknolojilerinin büyük bir kısmının temelini oluşturmaktadır.'' Bu çıkarımı bir ''öneri''ye dönüştüren yol haritası ise algoritmadır. Örneğin, bakkalın bir müşterisine sağlığına uygun bir ürün önermesi, belirli bir mantık silsilesi yani bir ''algoritma'' sonucudur. ''Algoritma, bir formül olarak ifade edilen belli bir problemi çözmek veya belirli bir amaca ulaşmak için tasarlanan bilgisayarda uygulanabilir bir dizi karmaşık matematiksel işlemden oluşan talimatlar dizisidir.'' Algoritmalar, Yapay Zekanın ''temel bileşeni'' olması sebebiyle Yapay Zeka ile ilgili yasal konularda da önem arz edecektir.
Yukarıda özetlediğimiz bu teknolojileri anlamak hukuk uygulamalarında bu teknolojilerin kullanılabilirliğini tartışmak için mühim bir meseledir. Nitekim Avrupa Birliği Yapay Zeka Tüzüğü Teklifi, adalet süreçlerinde kullanılacak yapay zeka uygulamalarını ''yüksek riskli''(High-Risk) kategorisinde değerlendirerek bu tartışmaların hukuki ciddiyetine dikkat çekmiştir. Özetle; algoritma, veri, big data, bulut teknolojisi ve makine öğrenmesi, yapay zekanın temel bileşenlerini oluşturmaktadır ve adil yargılanma unsurları bakımından belli başlı riskler barındırmaktadır.
I. ADİL YARGILANMA HAKKI
Hukukun en büyük amacı olan hakların korunmasında gerek anayasal düzenlemelerle düzenlenmiş olsun gerekse yazılı olarak düzenlenmese dahi en zorlu şartlarda dahi kısıtlanması zorlaştırılan temel hak ve özgürlükler vardır. Bu kapsamda bireylere tanınan hak ve özgürlükler arasında yer alan adil yargılanma hakkı, hak arayışında hukuk düzeni içinde en temel haklar arasındadır. En temel haklardan biri olmasının yanında diğer temel hak ve özgürlüklerden gerektiği gibi yararlanabilmenin de ön koşullarından biridir. Devletler adil yargılanmanın gerçekleşmesi için gerekli yasal düzenlemeleri yapmak, verilen mahkeme kararlarının etki doğurması için üzerine düşen yükümlülükleri yerine getirmekle sorumludur. Kısaca adil yargılanma, doğal hakim ilkesinin gözetildiği ve kişilerin savunma hakkını etkin bir şekilde kullanabilmesini sağlamayı ifade etmektedir. Adil yargılanma hakkı, 1982 Anayasası'nda hak arama özgürlüğünün düzenlendiği m.36'da, Avrupa İnsan Hakları Sözleşmesi'nde ise m.6'da düzenlenmiştir. AİHM m.6'ya göre adil yargılanma; kişilerin, medeni hukuk ve ceza hukuku davalarını kapsayan, bu davaların esası konusunda karar verecek olan yasayla kurulmuş, bağımsız ve tarafsız bir mahkeme tarafından, kamuya açık ve makul süre gözetilerek davanın görülmesini isteme hakkına sahip olmak olarak belirtilmiştir. Bu maddede, kararların aleni olarak verileceği ancak demokratik bir toplum içinde ahlak, kamu düzeni veya ulusal güvenlik yararına, küçüklerin çıkarları veya bir davaya taraf olanların özel hayatlarının gizliliği gerektiğinde veya aleniyetin adil yargılanmaya zarar verebileceği kimi özel durumlarda ve mahkemece bunun kaçınılmaz olarak değerlendirildiği ölçüde, duruşma salonunun tüm dava süresince veya kısmen basına ve dinleyicilere kapatılabileceği, bir suç ile itham edilen herkesin, suçluluğu yasal olarak sabit oluncaya kadar masum sayılacağı düzenlenmiştir.
1982 Anayasası'nda ise, 2001 yılında ki değişiklikler ile ''adil yargılanma'' ifadesi eklenmiştir. Ancak adil yargılanma hakkının kapsamı, unsurları ve gerekleri kanunda açıkça sayılmamış; ancak somut bir davanın varlığıyla görünür hale gelmektedir. Bu durum, yapay zekanın yargı süreçlerine dahil olduğu yeni uyuşmazlıklarda, adil yargılanma hakkının dijital ihtiyaçlara göre yeniden yorumlanmasına ve somutlaşmasına imkan tanıyan hukuki bir zemin oluşturmaktadır.
Adil yargılanma hakkını korumak; sadece yargılama sonucunda ki kararın adaletli olup olmadığının değerlendirilmesi ile değil, yargılama sürecinde adil yöntemlerin izlenip izlenmediğinin denetlenmesiyle mümkündür. Mahkemenin kararını etkileyecek olan karşı tarafın delil ve görüşlerinin bilgisine erişememe, etkili itirazda bulunamama, kararın gerekçesiz olması gibi etkenler ile yargılama sürecinin adil olmasının önüne geçilebilir. Bu nedenle yargılamanın sağlıklı bir şekilde yürütülebilmesi bakımından büyük önem arz eden adil yargılanmanın ilkelerini ve dijital çağın getirdiği yeniliklerle kapsamının nasıl genişlemesi gerektiği ile ilgili tartışmalarımızı bu bölümde yapacağız.
A. YARGININ BAĞIMSIZLIĞI VE TARAFSIZLIĞI
Yargının bağımsız ve tarafsız olması, karar vericinin her türlü etkiden uzak şekilde hukuki meseleyi objektif ve normatif kurallara dayanarak sonuçlandırmasıdır. Bağımsızlık ve tarafsızlık benzer anlamlara gelecek şekillerde kullanılsa dahi hakimin bağımsız olmasından dış etkilerin baskısı altında kalmamasını, tarafsız olmasından ise uyuşmazlığa konu olan şahıslara objektif bir bakışla yaklaşması gerektiği anlaşılmalıdır.
Yargısal denetimde algoritmaların kullanılması durumunda yargının bağımsızlığı ve tarafsızlığı ile ilgili görüşler arasında; algoritmanın, duygulardan ve ideolojilerden arınmış bir yapı oluşturduğu düşüncesiyle insan yargıçlardan daha objektif ve tarafsız karar verebileceği yönünde görüşler mevcuttur. Oysa burada algoritmaları meydana getirenin de insan olduğu noktası es geçilmektedir. ''Algoritmik Önyargı'' kavramının da ifade ettiği üzere karar verici algoritmanın işlediği veriler belli bir önyargıyı besleyerek o yönde çıktılar meydana getirebilir. Bir başka nokta ise hakime yardımcı yapay zekaların önerilerine güven duyarak ona uygun kararlar vermeye başlayan hakimlerin bağımsızlığı tehlikeye girebilmektedir. Diğer yandan ''otomasyon önyargısı'' denilen ve insanların makinelerin ürettiği bilgilerin doğruluğuna öncelik vermesini ifade eden bu durum nedeniyle hakimlerin tarafsızlığı noktası da tartışmalı hale gelmektedir.
Yani yargı sistemini tamamen insan ekseninden çıkararak otonom hale getirmek bağımsız ve tarafsızlığı meydana getirmek için yeterli değildir. Yargının insani boyutu ihmal edilmemelidir. Algoritma, hukuki istikrarı sağlayarak ortak içtihatlar oluşturmaya katkı sağlayabilir ancak empati ve somut olayın özgüllüğünü yakalamakta geri kalabilir.
Bu tartışmalar ile amacımız algoritmik yargılamanın adil yargılamayı ortadan kaldırdığını belirtmek değil temel unsurlarını tehdit eden hususları tespit edip bunlara çözüm getirmeye çalışmaktır. Burada sorulacak sorular algoritmanın kimin tarafından tasarlandığı ve veri setinin bağımsızlığının nasıl denetlenebileceği olacaktır.
B. SİLAHLARIN EŞİTLİĞİ, SAVUNMA HAKKININ VE ADALETE ERİŞİMİN GÜÇLENDİRİLMESİ
Silahların eşitliği ilkesi, taraflardan birinin diğerinden daha dezavantajlı bir konumda olmadan iddia ve savunmalarını mahkeme önünde ileri sürebilmesini ifade eden bir ilkedir. Yani taraflar delillere ulaşabilmeli, tartışabilmeli ve güvenirliğini sorgulayabilmelidirler. Algoritmik yargılama sistemlerinde silahların eşitliğine tehdit oluşturan başlıca konu devletin veya iddia makamının erişebildiği teknolojik altyapının verilerine savunma makamının erişiminin olup olmaması meselesidir. Savunma makamının delillere erişimi, ileri düzey teknolojik altyapı ve uzmanlık gerektirebileceğinden, ilgili taraf yargılama sürecinde dezavantajlı duruma gelebilmektedir. Bu durum adalete erişimin güçlendirilmesine de zarar verecektir. Adalete erişim hakkının güçlendirilmesi, vatandaş odaklı etkin, hızlı ve kırtasiyecilikten uzak adalet hizmetlerinin sunulması ile mümkün olacaktır. Burada sorulması gereken soru yargı sisteminde kullanılacak sistemlerin tarafların eşit bir şekilde erişimine sunulup sunulamayacağıdır.
Savunma hakkı, yargılamanın temelini oluşturan ve kişiyi hak ve özgürlüklerine kavuşturan en önemli yargısal faaliyettir. Yukarıda bahsettiğimiz silahların eşitliği ilkesinin de temelinde savunma hakkı vardır. Dijitalleşen yargı faaliyetlerinde savunma hakkını tehdit eden faktörler arasında algoritmik yargılama durumunda algoritmanın ulaştığı sonuca nasıl ulaştığını açıklayamaması yani ''Kara Kutu (Black Box)'' problemi gelmektedir. Bu durum bireyleri etkileyen hukuki sonuçların gerekçesinin şeffaf olmamasından kaynaklı itiraz etme hakkının yerine getirilememesine yol açacaktır.
C. GEREKÇELİ KARAR HAKKI
Gerekçeli karar hakkı, kişilerin hangi karara neden muhatap olduğunu anlamasını sağlamak için kararların ne sebeple mevcut sonucu doğurduğunun belirtilmesini ifade eden bir haktır. Kararların gerekçeli şekilde verilmesi en başta keyfiliğin önlenmesi için önemlidir. Ayrıca mahkemelerin kararlarına karşı kanun yollarının açık olması ile birlikte temyiz hakkı kullanılarak hak arayışının sürdürülebilmesi söz konusudur. Mahkeme kararına karşı kanun yoluna başvurulabilmesi içinse mevcut bir gerekçeye karşı itiraz edilmesi gerekir. Yapay zeka uygulamalarının kullanılmaya başlamasıyla gerekçeli karar verme fonksiyonunun yerine getirilebilmesinin bu nedenlerden dolayı önem arz etmesi bu durumu tartışmalı hale getirmiştir. Algoritmaların ulaştıkları sonucu gerekçelendiremediğine yukarıda değinmiştik. Bu durum doğrudan gerekçeli karar hakkının sağlanması noktasında büyük bir sorun teşkil etmektedir. Burada yapay zekanın da mevcut kuralları baz alarak taslak metin şekilde gerekçe metni oluşturması mümkün gözükmektedir. Ancak bu durumda da ''post hoc rationalization'' denilen durum tartışılmaktadır. Post hoc rationalization, bir karar alındıktan ya da bir davranışta bulunduktan sonra, bu eylemlerin sanki bilinçli ve mantıklı nedenlerle yapılmış gibi açıklanmasıdır.
Yapay zeka doğru sonuç doğurabilir ancak hala geçerli bir gerekçelendirme yapacak nitelikte olduğunu söylemek zordur. Bu nedenle pek çok noktada olduğu gibi bu noktada da hakime yardımcı bir rol üstlense dahi tek başına karar vermesi şuanlık mümkün gözükmemektedir.
D. MASUMİYET KARİNESİ
Ceza yargılamalarının temel karinelerinden olan masumiyet karinesi, kişilerin bir suçu işlediği kesin olarak kanıtlanıncaya kadar masum olduklarının kabul edildiğini ifade eden bir karinedir. Burada asıl olan kişinin masumluğunu ispatı değil suçluluğunun kanıtlanmasıdır. Ancak ceza yargılamalarında kullanılmaya başlanan ''COMPAS'' gibi risk değerlendirme sistemleri ile bu ilkenin dönüşüme uğradığı görülmektedir. Bu uygulamalarda kişinin ileride suç işleme riskini belirten skorlar oluşturularak suçlunun henüz işlemediği suç nedeniyle alacağı cezanın artırılması yoluna başvurulabilmektedir.
E. MAKUL SÜREDE YARGILANMA HAKKI
Yargılama sürecinin sonunda kazanılacak hakların yargılanmanın aşırı uzaması veya gereğinden kısa sürede sonuçlandırılmasından doğan hak kayıplarının yaşanmaması için makul sürede yargılanma hakkı, adil yargılanmanın önemli bir unsuru olarak karşımıza çıkmaktadır. Algoritmik karar destek sistemlerini yargı sistemlerine entegre etmeye başlayan Estonya örneklerine baktığımızda da yargılamaların yükünü azaltarak sonuçlandırılması için üzerinde yoğunlaşmanın daha az gerektiği ve insan müdahalesinin daha az olduğu kimi yargılamaların algoritmik uygulamalara yaptırılarak yargıçların vaktini daha çok alan yargılamalara daha fazla odaklanmasının önü açılmıştır. Böylelikle yargı sürecinin hızlandırılarak etkinliği arttırılmaya çalışılmıştır.
Görüldüğü gibi algoritmik uygulamaların yargı süreçlerine dahil edilmesi ile birlikte adil yargılanma hakkının unsurlarında dönüştürülmesi gereken hususlar meydana gelmiştir. Bu da adil yargılanma hakkının dönüşümünün tartışılmasını gerekli hale getirmektedir.
II. ABD ÖRNEĞİ: COMPAS ve CEZA YARGILAMASINDA ALGORİTMALAR
Bu bölümde yargılamada güncel olarak kullanılan algoritmik uygulamaların neler olduğu incelenerek adil yargılanma hakkı ışığında değerlendirmesi yapılacaktır.
ABD ceza yargılamalarında kullanılan COMPAS sistemi, ilk kez 1998 yılında kullanılmaya başlanmış olmakla birlikte Northpointe (yeni adıyla Equivant) şirketi tarafından geliştirilmiş bir psikolojik ölçekler bütünüdür. Toplam kırk üç ölçekten oluşan sistem, sanığın suç geçmişi gibi statik, değişmez ve eğitim, iş durumu gibi dinamik, değişebilir risk faktörlerinin analiz edilerek risk skorları meydana getirdiği bir uygulamadır. Amaç bireylerin yeniden suç işleme olasılığını istatistiksel verilere dayanarak öngörmeye çalışmaktır. Yalnız burada ceza yargılamalarının mihenk taşını oluşturan ''cezanın geriye yürütülememesi'' ilkesi çerçevesinde baktığımızda bu sistemin o an işlenmiş cezanın yargılanmasında geçmiş hatta daha henüz hiç işlenmemiş gelecek suçlarından dolayı kişilerin alması gerekenden daha fazla ceza aldığı durumlar söz konusu olabilmektedir. Bu uygulama, fiil temelli ceza hukukunu olasılık temelli önleyici modele doğru dönüştürmektedir. Kişinin henüz işlemediği bir suçtan ötürü yargılanması aynı zamanda bireyin suçu işlediği kanıtlanana kadar masum sayıldığı ''masumiyet karinesi''ne de aykırıdır. Toplumun istikrarlı refahı için iyi görünen olasılık temelli bu uygulamanın adil olduğunu söylemek güçtür.
COMPAS'ın ceza yargılamasının farklı safhalarında kullanıldığı görülmektedir: yargılama öncesi, hüküm safhası ve infaz safhası. Yargılama öncesinde şüpheli veya sanığın tutuklu mu yoksa tutuksuz mu yargılanacağının tespitinde, hüküm safhasında verilecek cezanın türü ve ağırlığının belirlenmesinde, infaz safhasında ise şartlı tahliye uygunluğu, infaz rejiminin tayini ve denetimli serbestlik yükümlülüklerinin belirlenmesinde bu sistemin risk skorlarından faydalanılmaktadır. Sağladığı avantajlar noktasında bilgisayar destekli değerlendirmenin, insan karar vericilerin öznel tahminlerine kıyasla daha isabetli sonuçlar verdiği, süreçlerin işleyişini hızlandırarak yargılamada usul ekonomisini sağladığı gibi görüşler mevcuttur. Bunların yanı sıra algoritmik önyargı, kara kutu ve ticari çıkarlar olmak üzere barındırdığı dezavantajlara da değinilmiştir.
State v. Loomis davası COMPAS sisteminin adil yargılanma bakımından sakıncalarına karşı çıkan en bilindik davalardandır. Loomis davasında; COMPAS uygulamasının kapalı kaynak kodlu algoritmalar (kara kutu problemi) nedeniyle ulaştığı sonuçların çürütülememesi savunma hakkını zedelemiş, risk skoru metodolojisinin açıklanamaması gerekçeli karar hakkını ihlal etmiş ve skorlama sürecinde cinsiyetin bir parametre olarak kullanılması ise cinsiyet ayrımcılığına yol açmıştır. Bu gerekçelerle teknolojinin hukuka aykırı olduğu ileri sürülmüştür.
Estonya; yargı sürecinin ve kamu hizmetlerinin dijitalleştirilmesi yönündeki çalışmaları ile, ''robot hakim'' kullanılacağı gibi sansasyonel haberlerle son zamanlarda oldukça dikkat çekmiş bir ülkedir. Estonya, 1990'ların sonundan bu yana mahkemelerin modernizasyonu konusunda dünyaya öncülük eden çalışmalarda bulunmuş ve otomatik karar verme sistemlerinin geliştirilmesi ve uygulanması yönünde davaların otomatik atanması ve çevrimiçi hüküm yayını gibi özellikleri içeren e-dosya (e-file) ve Mahkeme Bilgi sistemi gibi teknolojik araçları ilk kullananlar arasında yer almıştır. Estonya'da kamu hizmetlerinin teknolojik altyapılar ile desteklenmesi ile birlikte vatandaşlar çevrim içi vergi ödeyebilmekte ve oylama yapabilmektedir. Kamu sektöründeki bu dijital altyapının temel direği, hizmetlerin birbiriyle çalışabilirliğini sağlayan ''X-Road'' sistemidir. Estonya devletinin dijital altyapısının ana sütununu oluşturan X-Road, çeşitli kamu hizmetlerinin birbiriyle uyumlu ve eşgüdümlü şekilde çalışmasını sağlar. Estonya, 2012'den bu yana hem devlet hem de ticari sektörlerde ulusal verilerini, dijital hizmetlerini ve akıllı cihazlarını korumak için bu altyapıyla entegre şekilde ''blockchain'' teknolojisini kullanmaktadır. Böylelikle hukuk, sağlık ve daha pek çok kişisel bilgilerin barındırıldığı alanların dijitalleştirilmesi ile oluşan verilerin güvenliği noktasındaki açık kapatılmaya çalışılmıştır. Vatandaşların vergilerini çevrim içi beyan etmesi ve %51 gibi yüksek bir oranda e-oylama kullanması, X-Road tabanlı altyapıya duyulan güvenin bir göstergesi olarak sunulmaktadır. Özetle X-Road teknolojisi, yargı sistemi için geliştirilecek yeni dijital altyapıların tasarımında, güvenliği ve sürdürülebilirliği ile örnek alınması gereken bir sistem olarak gösterilmektedir.
Estonya Parlemantosu'na 2022 yılında sunulan İdari Usul Kanunu'nda değişiklik yapılmasına yönelik yasa tasarısı ile kamudaki dijitalleşmenin temkinli ve kontrollü bir şekilde yürütülmesi gerektiğine dair belli kısıtlamalar getirilmiştir. Tasarı, idarenin takdir yetkisini kullandığı alanlarda otomasyonun kullanımını önemli ölçüde sınırlandırmaktadır. Bu tasarı üzerinden yargıda dijitalleşme ve otomasyonun teşvik edilirken aynı zamanda temel haklara ve hukuk devleti ilkelerine saygı gösterilmesinin amaçlandığı da görülmektedir.
Her iki devletinde yargı sisteminde dijitalleşme süreçleri incelendiğinde ABD'nin COMPAS uygulamasının temel hakların ihlaline dair Estonya ile kıyaslandığında yeteri özeni göstermediği görülmektedir. Oysa Estonya, yapay zeka sistemlerinde takip edilebilecek katı bir ''prosedürel verimlilik'' yaklaşımındansa insani değerler ve onurun öncelikle önemsenilecek husus olduğu yaklaşımını benimsemiş görünmektedir. Tek taraflı COMPAS örneğinden yola çıkılarak yargının mevcut teknolojik gelişmeler yanında dijitalleşmemesi gerektiğini söylemek yerinde bir değerlendirme olmaz. Sadece güncel teknolojik gelişmelerin barındırdığı handikapları iyi analiz edip insan haklarının hassas yapısının gözetilerek bu dijitalleşmenin yapılması gerekmektedir.
Yine Estonya örneğine dönecek olursak algoritmaların kara kutu tartışmalarına karşı olarak hakimlerin zihinlerinin de birer kara kutuya benzetilerek insan zihnini okumanın imkansız olduğunu bu durumun karar verme sürecinin içsel ve doğrudan gözlenemez doğasını ifade ettiğini göstermektedir. İnsan ve yapay zekayı birbirinden ayıran nokta ise açıklama yeteneğidir. Bir insan hakim, ulaştığı yargısal sonucu gerekçelendirebilirken buna karşın, yapay zeka sistemlerinden alınan açıklamalar çok daha karışık ve anlaşılması zordur. Böylelikle kamu güveninin sadece şeffaflıkla değil, anlama ve farkındalıkla da olduğu ifade edilmiştir.
Bu değerlendirmeler ışığında yargılamada dijitalleşmenin sağlanması ile dava sürelerinde düşüş, iş yükünün azalması ve karmaşık davalara odaklanmanın önemli getiriler sağlamasının yanı sıra yargılamanın insani boyutunun korunmasının gerekliliğini ve yapay zeka destekli süreçlerde mutlaka insan denetimi ve girdisinin (human-in-the-loop) sağlanmasının önemli olduğunun altını çizmeliyiz.
SONUÇ
Yukarıda avantajları ve dezavantajları ile tartışılan algoritmik yargıda adil yargılanma süreci hakkında çıkarabileceğimiz en genel sonuç yargılamanın insan özgürlüğüne doğrudan müdahale alanlarından biri olması sebebiyle bu alanın tamamen otonom yapılara teslim edilmemesi gerektiğidir. Bu düşünceler temelinde ise dijitalleşmenin avantajlarından faydalanırken insan haklarına müdahaleyi önlemek için algoritmik yargılama süreçlerinde belli usuli güvencelerin alınması yönünde çalışılması gerektiği kanaatindeyiz.
Algoritmik çıktıya itiraz hakkının olması, algoritmaların davanın esasına uygun bir ayrımcılık tespiti testine tabi tutulması, hakimin algoritmik uygulamaları karar destek aracı olarak kullanması halinde de açıklanabilirlik zorunluluğunun gözetilmesi ve otonom şekilde sonuçlandırılabilecek nitelikteki uyuşmazlıkların çıktılarının dahi son karar mercinin insan olması gerekliliğinden yola çıkılarak insan denetimine tabi olma zorunluluğunun bulunması gibi usuli güvencelerin önceliklendirilmesi ile birlikte daha modern ve etkin bir yargı sürecinin idealize edilmesi gerektiği görüşündeyiz.
ABD ve Estonya yargı süreçlerinin dijitalleşme yönündeki uygulamalarını karşılaştırarak adil yargılanma unsurlarının fırsat ve riskleri değerlendirilmiştir. Duygulardan ve empatiden şu anki güncel durum içinde yoksun olan yapay zeka yapılarının rasyonel ve benzer durumlara benzer sonuçlar üreten çıktılarının sanıldığı kadar önyargısız ve adil sonuçlar doğurmadığını, hukukun insani boyutunun kaldırılmamasının gerektiği sonucuna varılmaktadır. Yargı sürecinin insan hakları temelli yapısının korunmasının verimliliğinin artırılmasından daha önemli bir yaklaşım olduğu göz önünde bulundurulmalıdır. Sonuç olarak adaletin sağlanması sadece kararın adaletli olmasıyla değil o kararın verilmesi sürecindeki yargılamanın her aşamasında adaletin gözetilmesiyle sağlanabilir. Böylelikle algoritmik yargılama uygulamalarında usuli güvence sağlayacak olan açıklanabilirlik, algoritmik önyargı denetimi gibi hususlar korunmalı ve insan denetiminin zorunluluğunun gereği olarak son karar merci daima insanlar olmalıdır. Çünkü adalet algoritmik değil, insani bir değerdir.
KAYNAKÇA
ASIMOV,Isaac. Ben,Robot, İthaki Yayınları, 2016.
ÇAKMAK, Ufuk, Ramazan. ''Yapay Zekanın Adil Yargılanma Hakkına Etkisi'', Adalet Yayınevi, Ankara, 2026.
ÇELİK, Abdullah. ''Adil Yargılanma Hakkı Rehberi'', Anayasa Mahkemesi Yayınları, Ankara, 2014.
AKSOY, Ecem. ''Yapay Zekanın Sorumluluk Hukundaki Konumu ve Büyük Veri İle ilişkisi'', İstanbul Kültür Üniversitesi Lisansüstü Eğitim Enstitüsü, (Yüksek Lisans Tezi), 2021.
ANGWİN, Julia/LARSON, Jeff/ MATTU, Surya/ KIRCHNER, Lauren. ''Machine Bias: There's software used across the country to predict future criminals. And it's biased against blacks'', ProPublica, 2016.
BAHAR, Esra. ''Türkiye Anayasa Mahkemesi Kararları Işığında 'Adil Yargılanma Hakkı' '', Adalet Dergisi, Cilt: 68, Sayı: 253-283, 2022.
KARABULUT, Efe Can. ''Ceza Adaleti Sisteminde Aktüeryal Risk Değerlendirme Araçları: COMPAS Örneği Üzerinden Bir Tartışma'', Kırıkkale Hukuk Mecmuası, Cilt: 5, Sayı: 359-396, 2025.
YOLCU, Tuğba/GÜLBAHAR, Yasemin. '' Avrupa Birliği Yapay Zeka Yasası: 2018-2024 Avrupa Komisyonu Tekliflerinde Demokrasinin Yeri'', Ankara Avrupa Çalışmaları Dergisi, Cilt: 24, Sayı: 195-231, 2025.
Avrupa İnsan Hakları Sözleşmesi (AIHS), madde 6: Adil Yargılanma Hakkı.
T.C. Anayasası, madde 36: Hak Arama Özgürlüğü ve Adil Yargılanma Hakkı.
T.C. Adalet Bakanlığı. ''İnsan Hakları Eylem Planı ve Uygulama Takvimi'', Ankara, Nisan 2021.
Wisconsin Supreme Court (ABD), State v. Loomis, 881 N.W.2d 749 ( Wis.2016).
CANTERO GAMITO, Marta/ GENTILE, Giulia. ''Algorithms, Rule of Law, and the Future of Justice: Implications in the Estonian Justice System'', STG Policy Papers, Sayı: 2023/27, School of Transnational Governance, 2023. https://ssrn.com/abstract=4618760.
Estonia Government. ''X-Road: The Backbone of e-Estonia'', https://e-estonia.com/solutions/interoperability-services/x-road/.
Estonya Parlamentosu. ''İdari Usul Kanunu'nda Değişiklik Yapılmasına Dair Yasa Tasarısı (2022)'', https://www.riigikogu.ee/.
Equivant (Northpointe). ''COMPAS Risk Assessment Methodology and Practitioners Guide'', https://www.equivant.com/.