Hukuk, Yapay Zekâyı Yargılayabilir mi? Türk Hukuku ve Uluslararası Hukuk Açısından Gelişmelerin Değerlendirilmesi

Yapay zekâ (YZ), son yıllarda yalnızca teknoloji ve mühendislik alanlarında değil, aynı zamanda hukuk düzenlerinde de önemli tartışmalara yol açmıştır. Otonom araçlar, karar destek sistemleri, robotlar ve algoritmalar tarafından verilen kararlar, hatalı çıktılar veya sebep olunan zararlar nedeniyle “sorumluluk” kavramını yapay zekâ bağlamında yeniden ele alma ihtiyacı doğmuştur. Bu yazımızda, yapay zekâya hukuki sorumluluk atfedilip atfedilemeyeceği, Türk hukuk sistemi ve uluslararası hukuk normları çerçevesinde analiz edilerek değerlendirilecektir.

I-Yapay Zekâ Kavramı ve Sınıflandırılması

Yapay zekâ, bir insanın bilişsel işlevlerini taklit eden ve öğrenme, problem çözme gibi yeteneklere sahip yazılım ve donanım sistemleri olarak tanımlanabilir. Hukuki değerlendirme yapılırken YZ sistemlerinin tanımlarını yapmakta fayda vardır. Bu bağlamda:

Dar (Zayıf) YZ: Belirli görevleri yerine getirmek üzere programlanmış sistemler. Örneğin öneri motorları.

Genel YZ: İnsan gibi çoklu bilişsel işlevleri yerine getirebilecek sistemler.

Otonom YZ: İnsan müdahalesi olmadan karar alabilen sistemler. Örneğin sürücüsüz araçlar.

Yukarıda bahsedilen sistemlerin hangi kategoriye girdiği, hukuki sorumluluğun tespiti açısından farklılık gösterebilmektedir.

II-Türk Hukukundaki Hukuki Sorumluluk İlkeleri ve Yapay Zekâ Açısından Değerlendirilmesi

Açıklamak gerekir ki, Türk Borçlar hukuku kapsamında yer alan sorumluluk türlerine göre olası örneklemeler üzerinden açıklamalar yapılmıştır. Yazılan örneklemelerin, Türk Borçlar Kanunu bakımından birden fazla sorumluluk rejimiyle değerlendirilebileceği unutulmamalıdır. Kaldı ki örneklemeler bazında sözleşmeden doğan sorumluluk veyahut ürün sorumluluğu halleri de saklıdır.

1-Kusura Dayalı Sorumluluk (TBK m.49 vd.)

Türk Borçlar Kanunu’na göre bir kişinin hukuka aykırı bir fiiliyle bir başkasına zarar vermesi ve kusurlu olması durumunda tazminat sorumluluğu doğmaktadır. Ancak yapay zekânın hukuki kişiliği olmadığından ve irade sergileyemediğinden, doğrudan bir “kusur” yüklenmesi mümkün değildir. Bu sorumluluk çoğunlukla şu kişilere yüklenebilmektedir:

YZ’nin geliştiricisi/Yazılım Şirketi,

YZ’nin sahibi veya işleteni,

YZ’yi kullanan kişi/Operatör.

Bu kişilerin kusurlu davranışları örneğin algoritma testi yapılmaması, yetersiz bakım, hatalı kullanım varsa klasik kusur sorumluluğu hükümleri uygulanabilecektir.

Bir yazılım şirketi, hastanelerde kullanılmak üzere yapay zekâ destekli bir tanı sistemi geliştirmiştir. Ancak yazılım şirketi, sistemin ciddi eksikliklerini ve hatalarını bilerek veyahut ağır ihmale rağmen bilerek piyasaya sürmüştür. Bu yazılım, hastanede gerçek hasta verileriyle kullanılmış ve hastaya kanser olmadığı sonucunu vermiştir. Hekim de bu çıktıya güvenerek tetkik ve tedaviyi ertelemiştir. Hasta ilerleyen evrede başvurduğunda teşhis konmuş ancak artık geç kalınmıştır. Bu örneklemede yazılım şirketi bilgi gizlemiş, yetersiz test yapmış, eksik eğitim verisi kullanmış olduğundan açıkça kusurlu davranış sergilediği kanaati çıkarılabilmektedir.

2- Kusursuz Sorumluluk Halleri

a-Tehlike Sorumluluğu (TBK m.71)

YZ sistemlerinin çoğu tehlikeli eşya (örneğin, sürücüsüz eşya) sınıfına dâhil edilebilir. Buna göre, zarar veren kişinin kusuru aranmaz; yalnızca zarar ve illiyet bağı yeterlidir. YZ sistemlerinin öngörülemez kararları bu tür sorumluluk mekanizmalarıyla güvence altına alınabilir.

Test sürüşü sırasında kullanılan otonom bir araç, yaya geçidinden geçmekte olan bir yayaya çarparak onun yaralanmasına sebep olmuştur. Olayda sürücü müdahalesi bulunmamakta, aracın tamamen yapay zekâ ile yönetildiği ve test amacıyla trafiğe çıkartıldığı anlaşılmaktadır. Bu durumda, aracı test amacıyla trafiğe çıkaran şirket veya kişi, araç işleten sıfatıyla ortaya çıkan zarardan, kusuru olmasa dahi sorumlu tutulabilir.

b. Hakkaniyete Dayalı Sorumluluk

Hakkaniyete dayalı sorumluluk halinde, tipik kusur sorumluluğundan farklı olarak, kusurun veya hukuka aykırılığın açıkça bulunmadığı ama zararın da göz ardı edilemeyeceği durumlarda devreye girmesidir. Esas olan hakkaniyettir.

YZ, hukuki özne olarak kabul edilmemektedir. Ancak YZ'nin neden olduğu zararlar, bu sistemi tasarlayan, geliştiren veya kullanan insan veya tüzel kişilere atfedilerek değerlendirilebilir.

Küçük özel bir hastanede bütçe kısıtları nedeniyle ticari olarak temin edebildiği temel seviyeli yapay zekâ destekli tanı yazılımı sistemini kullanmaktadır. Bu sistem ön tanı önerileri sunmaktadır. Bir gün ayakta tedaviye gelen bir hasta, nadir görülen bir hastalığın erken belirtilerini göstermektedir. Yapay zekâ sistemi sıradan bir grip olarak değerlendirir. Görevli hekim ise, sistemin önerisini dikkate alarak ileri tetkik istemez. Bir kaç hafta sonra ise hasta kalıcı zarar görür. Sistem tasarlanırken nadir görülen hastalıkları tespit edecek şekilde eğitilmemiştir ve üretici firma da bu eksiklikleri teknik belgede belirtmiştir. Hekimin de kusurlu bir davranışı yoktur. Durum olağandışı ancak zarar da göz ardı edilemeyecek ölçüde olduğu düşünüldüğünde hakkaniyete dayalı sorumluluk doğabilecektir.

3- Haksız Fiil ve Sorumluluk        

YZ sistemlerinin neden olduğu zarar doğrudan haksız fiil teşkil edebilir. Ancak failin insan olmaması, klasik haksız fiil normlarının doğrudan uygulanabilirliğini tartışmalı hale getirir. Dolaylı olarak sorumluluk operatöre, üreticiye yüklenmesini gerektirebilir.

Bir teknoloji şirketi, müşterilerin görsel, metin veyahut video üretmesini sağlayan yapay zekâ destekli bir içerik oluşturma aracı geliştirmiştir. Şirket, yapay zekâyı eğitirken internet üzerinde bulduğu içerikleri rastgele şekilde veri setine dahil etmiş ancak bu içeriklerin telif hakkına tabi olup olmadığını kontrol etmemiştir. Bu yapay zekâ aracıyla bir kullanıcı, yeni bir reklam afişi üretir. Ancak üretilen görselin temel bileşenlerinden biri, ünlü bir sanatçının daha önce yayınladığı ve FSEK kapsamında koruma altındaki bir illüstrasyonun neredeyse birebir kopyasıdır. Şirket, yapay zekâ sistemini eğitirken gerekli özeni göstermediği ve denetimsiz veri kullandığı gözetildiğinde haksız fiil sorumluluğu uygulama alanı bulabilecektir.

III-Yapay Zekâya Hukuki Kişilik Tanınması Tartışmaları

YZ sistemlerinin gelişmişliği ve yapabildikleri düşünüldüğünde bazı kişilerce bu sisteme sınırlı hukuki kişilik tanınması önerisi gündeme gelmektedir. Avrupa Parlamentosu’nun “Elektronik Kişilik” önerisi bu bağlamda dikkat çekicidir. Ancak Türk hukuk sistemi ve Türk Medeni Hukuk anlayışı, bu tür kişiliklerin yalnızca insan dışı varlıkların iradi temsil edilmesiyle mümkün olduğunu kabul etmektedir.

YZ sistemlerinin mevcut haliyle hukuki kişilik kazanması kısa vadede pek mümkün görünmediğinden YZ’nin sorumluluğunun insan aktörleri üzerinden değerlendirilmesi zorunluluğu doğmaktadır.

IV. Yapay Zekânın Hukuki Sorumluluğu: AB, BM ve UNESCO Perspektifinden Uluslararası Yaklaşım

Tarihsel süreçte ilk tartışmalar bilimsel kurgu ve teorik olarak gündeme geldi. Çünkü yapay zekâ teknik kapasite açısından sınırlıydı. Isaac Asimov'un "Üç Robot Yasası" gibi kurgu eserler, etik ve hukuki sorumluluk tartışmalarına yol açsa da bu kavramlar felsefi tartışmalarda yer almakla sınırlıydı.

1990-2010 yılları aralığında yapay zekânın sınırlı olarak kullanıldığı bu dönemde, sorumluluk tartışmaları: yazılım hataları, geliştirici sorumluluğu ve ürün sorumluluğu üzerinden yürütüldü. Özellikle Avrupa Ürün Sorumluluğu Direktifi (1985) ve benzeri düzenlemeler, yapay zekânın sebep olduğu zararları da kapsayacak şekilde yorumlandı.

Uygulamalı tartışmalar daha çok 2011-2016 tarihlerinde başladı. Otonom araçlar (Tesla, Waymo), tıbbi tanı sistemleri, ticaret robotları gibi YZ'nin doğrudan eylemde bulunduğu sistemler gelişti. Bu çerçevede Avrupa Birliği, Birleşmiş Milletler ve UNESCO açısından gelişmeleri kısaca değerlendirdik.

1-Avrupa Birliği Perspektifinden Gelişmeler

Avrupa Komisyonu ve Avrupa Parlamentosu, yapay zekâya ilişkin çerçeve düzenlemeler hazırlamaktadır.

2021 tarihli Yapay Zekâ Tüzüğü Taslağı (Al Act): Yüksek riskli YZ sistemlerine sıkı yükümlülükler getirilmiştir. 1 Ağustos 2024 tarihinde yürürlüğe giren AB Al Act, risk temelli sınıflandırma desteğiyle yapay zekâyı denetlemeye başlamıştır.

"Yasaklı risk" kapsamındaki sistemler gerçekte kullanıma engel; duygu tanıma yazılımları Şubat 2025'ten itibaren uygulanması yasaklanmıştır.

9 Aralık 2024 tarihli revize edilmiş Ürün Sorumluluğu Direktifi, Al sistemlerinden kaynaklanan zararlarda kusursuz sorumluluk getirerek; 10 yıl tazmin süresi ve dijital zarar (veri kaybı, psikolojik etki) kapsamına alınmıştır. Ürün Sorumluluğu Direktifi ile YZ sistemleri tarafından sebep olunan zararlarda üreticilerin sorumluluğu genişletilmiştir.

YZ sistemlerinin öngörülemez davranışlar sergileme riski nedeniyle AB, “katı sorumluluk” (strict liability) anlayışına doğru yönelmektedir.

Al Liability Directive her ne kadar tasarım aşamasında olsa da bu taslağın hazırlanma amacı YZ'nin neden olduğu zararlarda mağdurların korunmasını arttırmaktır. Bu taslak ile: ispat yükü ters çevrilebilir (örneğin sistemin hatalı olmadığını geliştirici ispatlamak zorunda kalabilir), açıklanabilirlik yükümlülüğü getirilerek zarar görenlerin neye maruz kaldığını anlaması kolaylaştırılabilir.

2-Birleşmiş Milletler ve UNESCO Perspektifinden Gelişmeler

BM ve UNESCO, YZ teknolojilerinin etik kullanımına ilişkin ilkeler belirlemiştir. Şeffaflık, hesap verilebilirlik, insan gözetimi altında kullanım gibi ilkeler hukuk düzenlemeleri için temel oluşturmaktadır. Bunlar bağlayıcı nitelikte olmayıp rehberlik işlevi görmektedir. Bu çerçevede;

UNESCO'nun Kasım 2021 yılında yayımladığı "Yapay Zekâ Etiği Tavsiyesi", 194 üye ülke tarafından kabul edilmiştir. Güncellemelerle Etik Etki Değerlendirmesi, Hazırlık Analizi (RAM) gibi araçlar geliştirilmiş ve devletler tarafından kullanılmaktadır. UNESCO küresel foruma ev sahipliği yaparak uluslararası iş birliğini hızlandırmaktadır. 2024 yılında ise kamu sektörlerine yönelik Al Readiness Assessment ve Ethical Impact Assessment (EIA) kılavuzlarını yayımlamıştır.

BM ise, doğrudan bağlayıcı yapay zekâ düzenlemesi yapmasa da, "Al for Good" girişimi ve Genel Sekreter çağrıları aracılığıyla küresel etik sorumluluğu vurgulamaktadır. 2023 yılında başlayan küresel Al etik kurallarının oluşturulması çağrısı, gelecekte bir BM Al Konvansiyonu'nun alt yapısını oluşturduğu barizdir.

V- Yapay Zekânın Hukuki Sorumluluğu: Türk Hukuku Perspektifinden Ulusal Yaklaşım

Yapay zekâ teknolojileri tüm dünyada olduğu gibi Türkiye’de de hızlı bir dönüşüm yaratıyor. Bu dijital devrim, yalnızca teknoloji ile sınırlı kalmıyor; aynı zamanda hukuki düzenlemeleri de kökten etkiliyor. Türkiye yapay zekâ bakımından nispeten önemli adımlar atmış durumda. Türkiye’de yapay zekâ hukukunun tarihsel gelişimi;

2021: Ulusal Yapay Zekâ Stratejisi ile Başlayan Dönüşüm

Türkiye’nin yapay zekâ alanındaki ilk resmi belgesi, 20 Ağustos 2021 tarihinde yayımlanan “ Ulusal Yapay Zekâ Stratejisi (2021-2025)” oldu. Cumhurbaşkanlığı Dijital Dönüşüm Ofisi ile Sanayi ve Teknoloji Bakanlığı tarafından hazırlanan bu strateji:

-Türkçe doğal dil işleme,

- İnsan kaynağı geliştirme,

- AR-GE yatırımları,

-Etik ilke ve veri güvenliği gibi konuları hedef almıştır.

2022-2023: Farkındalık Artışı ve İlk Rehber Çalışmaları yapılmıştır.

2022 yılında Türkiye, Avrupa Birliği’nin AI Act (Yapay Zekâ Tüzüğü) çalışmalarını yakından izlemeye başlamıştır. Aynı dönemde akademik çevreler ve sektör paydaşları etik ilkelere ve şeffaflığa odaklanmıştır.

2023 yılında ise KVKK (Kişisel Verileri Koruma Kurumu), yapay zekâ sistemlerinde kişisel verilerin işlenmesine yönelik ilk taslak kılavuzlarını hazırlanmıştır. Bu gelişme ile birlikte, veri güvenliği, şeffaflık ve hesap verebilirlik gibi ilkeler daha somut hale geldi.

2024 yılı, Türkiye’de yapay zekâ hukuku adına en somut adımın atıldığı yıl oldu. 24 Haziran 2024 tarihinde TBMM’ye sunulan “Yapay Zekâ Kanun Teklifi”, risk temelli sınıflandırma (düşük, orta, yüksek riskli sistemler), etik ve temel haklarla duyarlı yapı, şeffaflık ve güvenlik yükümlülükleri. Bu teklif Avrupa Birliği’nin Al Act modeline paralel bir yaklaşım sunmaktadır. Henüz yasalaşmamış olan bu teklifin 2025 yılında detaylandırılması ve ikincil düzenlemelerle güçlendirilmesi bekleniyor.

2024-2025 Eylem Planı, hukuki zemini uygulamaya dönüştürecek adımları içermektedir: Türkçe büyük dil modeli projeleri, kamu hizmetlerinde yapay zekâ uygulamaları, etik denetim mekanizmaları, yapay zekâ uzmanı yetiştirme programları. Açıktır ki bu plan YZ regülasyonlarının somut sonuçlar doğurmasına zemin hazırlamaktadır.

Kişisel Verilerin Korunması Kurumu (KVKK), “Yapay Zekâ Uygulamalarında Kişisel Verilerin Korunması” başlıklı resmi rehberini yayımladı. Bu rehber YZ sistemlerinde: Veri minimizasyonu, açıklanabilirlik ve kullanıcı bilgilendirme gibi ilkelere odaklanmaktadır.

Öte yandan fikri mülkiyet hukuku kapsamında da yapay zekâ tarafından üretilen içeriklerin sahipliği tartışılıyor. Mevcut düzenlemelere göre, “Prompt Yazarı” gibi insan aktörler koruma kapsamına alınabilmesi gündeme gelmektedir.

Yargıda YZ kullanımı ise 2024-2025 Yargı Reformu Stratejisi kapsamında, yargı sisteminde YZ destekli belge analizleri ve ön inceleme sistemleri test ediliyor. TBMM bünyesinde kurulan komisyon, yargının dijitalleşmesini hızlandırmayı hedefliyor.

Gelinen noktada Türkiye Yapay Zekâ hukukunda AB ile uyumlu, insan haklarına dayalı ve etik odaklı bir yol haritası izliyor. Ancak teknolojinin gelişme hızı düşünüldüğünde yapılan çerçeve düzenlemelerin yetersiz kalacağı ve ikincil düzenlemelere ihtiyaç duyulacağı açıktır. Yapay zekânın hızı karşısında ivedilikle ikincil düzenlemelerin hazırlanması (teknik standartlar, denetim mekanizmaları), sektörel düzenlemelerin netleşmesi (hukuk, sağlık finans vb.), şeffaflık ve sorumluluk ilkelerinin uygulamaya geçirilmesi gerektiği açıktır. Bu bağlamda Türkiye’nin rekabet gücünü kaybetmeden etkili adımlar atmasını umut etmekteyiz. Aksi durumda YZ’nin hukuki statüsü bakımından mevcut kanunların yoruma dayalı uygulanmasının yetersiz kalacağı açıktır.

Bu noktada YZ sistemleri için özel bir sorumluluk rejimi oluşturulması, YZ yüksek riskli sistemler için lisanslama ve denetim mekanizması oluşturulması gibi reformlar öngörülebilirliği ve hukuki güvenilirliği arttıracaktır.

Sonuç olarak yapay zekâ teknolojilerin gelişmesiyle birlikte hukuk sistemleri, klasik sorumluluk teorilerini ve sair hususları gözden geçirmek zorunda kalacaktır. Yapay Zekâ Kanun Teklifi (24 Haziran 2024) metninde “sorumluluk” ifadesine yer verilmiş; teklifte, yapay zekâ operatörlerine yönelik para cezaları da öngörülmüştür. Bu düzenleme sorumluluk ihlaline dayalı bir model sunsa da; kime, hangi koşulda, nasıl olacağı detaylandırılmamıştır. Kanun teklifi çerçeve çizmek adına faydalı olsa da detaylı mevzuat düzenlemelerinin yapılması gerektiği açıktır.

Hukuki Uyarı : Bu yazı Uzunoğlu Hukuk Bürosu tarafından bilgilendirme amacıyla hazırlanmıştır. Yazıda yer alan bilgiler hukuki tavsiye niteliğinde değildir. Herhangi bir bireysel hukuki sorunun çözümüne özel olarak sunulmamıştır. Yazılan yazılar gayri ticari amaçlıdır. Okuyucular internet sitesindeki genel bilgiler nedeniyle doğrudan veya dolaylı olarak zarara uğradıklarını iddia edemezler. Uzunoğlu Hukuk Bürosu, internet sitesinde sunulan bilgilerin içeriği ya da ziyaretçilerin bu siteye dayanarak gerçekleştirdiği hareketlerden sorumluluk kabul etmemektedir.