|
|
| 177. satır: |
177. satır: |
| '''Dr. Sezai Sablak''' şu anda Peraton Laboratuvarlarında baş bilim insanı olarak görev yapmaktadır. Yüksek lisans ve doktorasını 2000 yılında Lehigh Üniversitesinde Bilgisayar Bilimleri alanında tamamlamıştır. Philips, Siemens, Bosch, Schneider Electric, General Dynamics, Inertial Labs, Raytheon Technologies ve Huawei Technologies gibi çeşitli şirketlerin Ar-Ge laboratuvarlarında çalışmıştır. Araştırma alanları arasında yapay zeka, derin/makine öğrenimi, bilgisayar/makine görüşü, 3 boyutlu lidar kameralar, akıllı kameralar, otomasyon, robotik, algı, gömülü programlama ve sensör füzyonu bulunmaktadır. Birçok bilimsel makalenin yazarı ve çeşitli ABD patentlerine sahiptir. Son olarak Respect Graduate School Yönetim Kurulu Başkanı ve kurucu yönetim kurulu üyesidir. | | '''Dr. Sezai Sablak''' şu anda Peraton Laboratuvarlarında baş bilim insanı olarak görev yapmaktadır. Yüksek lisans ve doktorasını 2000 yılında Lehigh Üniversitesinde Bilgisayar Bilimleri alanında tamamlamıştır. Philips, Siemens, Bosch, Schneider Electric, General Dynamics, Inertial Labs, Raytheon Technologies ve Huawei Technologies gibi çeşitli şirketlerin Ar-Ge laboratuvarlarında çalışmıştır. Araştırma alanları arasında yapay zeka, derin/makine öğrenimi, bilgisayar/makine görüşü, 3 boyutlu lidar kameralar, akıllı kameralar, otomasyon, robotik, algı, gömülü programlama ve sensör füzyonu bulunmaktadır. Birçok bilimsel makalenin yazarı ve çeşitli ABD patentlerine sahiptir. Son olarak Respect Graduate School Yönetim Kurulu Başkanı ve kurucu yönetim kurulu üyesidir. |
|
| |
|
| = Makale I: = | | == Makaleler == |
| | | *Yunus Elmas, Süreyya Sevde, LL.M. [[Neden Yapay Zekâ Etiği ve Yapay Zekânın Hukukî Statüsü Üzerine Tartışmalar]] |
| == Neden Yapay Zekâ Etiği ve Yapay Zekânın Hukukî Statüsü Üzerine Tartışmalar ==
| | *Burak Haylamaz LL.M. [[Küresel Yapay Zeka Düzenlemesi için On Öneri]] |
| Yunus Elmas, Süreyya Sevde, LL.M. | | *Prof. Dr. Abdullah Demir. [[İslam Hukukuna Göre Yapay Zekanın Hukuki Kişiliği, Sorumluluğu ve Etik Yönü]] |
| | | *Hasan Yıldız. [[Veriye Dayalı Bir Gelecek: Bilginin Yapay Zeka Üzerindeki Etkisini Keşfetmek]] |
| == Özet ==
| | *Dr. Sezai Sablak, Dr. Mukaddes Sablak. [[Yapay Zeka ile Hizmet]] |
| Son on yıl teknolojik atılımların geçit töreniydi. Biyoloji, kripto para birimi, enerji, dijital baskı, sanal gerçeklik, veri bilimi, sinir bilimi ve dijitalleştirme dahil yapay zeka alanında da devrim niteliğinde gelişmelere tanık olduk. Hayatımızın her yönünü etkileyen yapay zeka, hastalıkların teşhisinde, tarımsal ve çevresel sorunların tespit ve teşhisini yapma, bankalarda kredi kararlarını verme, işe alım ve hatta her gün hangi haberleri göreceğimizi belirlemede kullanılıyor. Yapay zeka yaşam döngümüze bu devasa dönüşümü sağlarken, bu dönüşümün her aşaması olumlu değil veya buna hazırlıklı değiliz. Yapay zeka ve otomasyonun ileriye yönelik ve yaygın biçimde kullanımını hayata geçirmeden önce, yapay zekanın hangi ilkelere/etik değerlere dayanacağı konusunu kararlaştırmamız gerekiyor. Bu etik değerleri nasıl uygulayabiliriz? Yapay zekâ da yaşamımızın her alanı gibi kanunlara tabi olmalı mı? Eğer öyleyse, yapay zekâ nasıl düzenlenmeli? Bu sorulara cevap arama çabasıyla birinci bölümde yapay zeka, yapay zeka etiği ve zarar verici yapay zeka uygulamalarına ilişkin bazı örnekler tartışılacaktır. İkinci bölümde, dünya çapındaki hükümetler tarafından hazırlanmış ve hükümet dışı kurumların etik önerilerinden derlenmiş yapay zeka etik prensipleri sunulacaktır. Bu bölümde ayrıca etik yapay zekayla ilgili adımlar atılırken dikkat edilmesi gereken birkaç konu özet olarak belirtilecektir. Son olarak üçüncü bölümde argümanlarımız ve analizimiz özetlenecektir.
| | *Dr. Zeynep Orhan. [[Teknoloji ve Etik: Yapay Zekâ Çağında Sorunlar ve Denge Stratejileri]] |
| | | *Hakan Veli. [[Yapay Zekanın Zorlukları: Ceza Hukuku Örneği]] |
| == 1. Neden Etik Yapay Zekaya İhtiyacımız Var? ==
| |
| Yapay zekanın üzerinde uzlaşılmış bir tanımı olmamakla birlikte, çeşitli tanım denemeleri vardır. OECD, ‘Bir yapay zeka sistemi, aldığı girdilerden, açık veya örtük hedefler için tahminler, içerik, öneriler veya fiziksel ya da sanal ortamları etkileyebilecek kararlar gibi çıktılar üreten makine tabanlı bir sistemdir; farklı yapay zeka sistemleri, devreye alındıktan sonra özerklik ve uyarlanabilirlik seviyelerinde farklılık gösterir.' şeklinde belirtmiştir. Bryson, yapay zekayı, genellikle kabul gören bileşenlerini tek bir cümlede birleştirerek, 'algıyı, eylem dahil olmak üzere, daha ilgili bilgiye dönüştüren herhangi bir eser' olarak tanımlar. Buradan, yapay zekanın, insan yapımı yazılım (ve muhtemelen donanım da) olduğu ve analiz yapıp bu analiz üzerinde bir miktar özerklikle harekete geçebildiği anlaşılmaktadır. Çeşitli yapay zeka teknikleri olmakla birlikte, Surden bunları üç başlık altında toplar: 1) Girdi verilerinde düzenler bulan ve girdi ve çıktı verileri arasındaki ilişkiyi tanımlayan bir fonksiyon oluşturan ve girdi verileri değiştikçe bu fonksiyonu düzelten 'makine öğrenimi'; 2) "genellikle otomasyon amacıyla bilgisayarların kullanabileceği bir biçimde gerçek dünya fenomenlerini veya süreçlerini modellemek için" kullanılan 'kurallar, mantık ve bilgi temsili'; ve 3) bu iki tekniği bir araya getiren en yaygın olarak kullanılan hibrit modeller.
| |
| | |
| Tarih, insanların hem görünüş hem de zeka bakımından kendisine benzer varlıklar yapma dürtüsüne her zaman sahip olduğunu göstermektedir. Yapay zeka belki de bu arzunun en yeni meyvesidir. Günümüzde yapay zeka, her alanda yaşamı kolaylaştırmaktadır. Sürdürülebilir enerji tüketimi için veri bilimi ile birlikte yapay zeka kullanan projeler, otomatik ulaşım sistemleri, görme engelli insanlar için hizmetler ve yardımcı cihazlar, enerji kullanımını optimize ederek karbon salınımını %30 oranında azaltabilen yapay zeka sistemleri bulunmaktadır. Yapay zeka, özel araçlarda da uygulanmakta olup, kazaların sayısını ve trafik sıkışıklığını azaltmak amacıyla optimal rotalama yapabildiği gibi, herkes için uygun fiyatlı ulaşım imkanları sağlamaktadır. Yapay zekanın önemli ilerlemelerinden bazıları tıp alanında gerçekleşmektedir. Bu alanda, farklı yapay zeka teknikleri aracılığıyla, meme kanseri, karaciğer kanseri, böbrek hastalığı gibi birçok hastalık %98 doğrulukla teşhis edilebilmektedir.
| |
| | |
| Başka bir başarı alanı da çocuklar veya yaşlılar için robot bakıcılardır. Nihayetinde biyolojik ihtiyaçları olmayan ve hastaları gerçek zamanlı olarak izleyebilen robotlar, insan bakıcılardan daha ekonomik ve güvenli bir seçenek olabilir. Yapay zeka eğitim amaçlı da kullanılmaktadır. Yapay zeka ile desteklenen eğitim, her öğrencinin kişisel ihtiyaçlarına ve ilerlemesine uyum sağlayarak, özellikle öğrenme güçlüğü çeken çocuklar için eğitimdeki eşitsizliklere çare sunabilir.
| |
| | |
| Yapay zeka, insan gelişimini teşvik edebilir ve insan yaşamını iyileştirebilir. Ancak, yapay zekanın insan yapımı bir eser olduğunu, rutin işlerden kurtulmamızı ve yeteneklerimizi artırmamızı sağlarken sosyal benliklerimize ve daha entelektüel uğraşlara odaklanmamızı mümkün kılan, insanlığa hizmet eden bir araç olarak kalması gerektiğini unutmamalıyız. Yapay zekanın görünüşte birçok faydası olmasına rağmen, yaşamlarımızı azımsanmayacak ölçüde ve nasıl değiştirebileceğinin ve buna ne kadar hazırlıklı olduğumuzu gözden geçirmeliyiz. Aşağıda daha ayrıntılı olarak ele alındığı gibi, yapay zeka insan dokunuşunun ve insani özelliklerin kaybı, önyargı, mahremiyetin yok olması ve insan iradesinin zayıflaması gibi ciddi sonuçlar doğurabilir.
| |
| | |
| == 2. Çeşitli Alanlarda Yapay Zekanın Olumsuz Sonuçları ==
| |
| Yapay zeka, sohbet robotları, akıllı asistanlar (Siri, Alexa vb.) ve robot süpürgelerden, otonom araçlar ve hatta otonom silahlar gibi uygulamalarıyla günlük yaşamımızda hali hazırda yer almaktadır. Ancak, bu mevcut yapay zeka sistemleri dar yapay zeka olarak tanımlanmaktadır, yani yalnızca tasarlandıkları görevleri yerine getirebilirler. Aşağıda, bazı dikkate değer dar yapay zeka kullanımları ve bunların sınırlamaları ele alınmaktadır.
| |
| | |
| === 2.1. Tıp ===
| |
| Tıpta, dar yapay zeka uygulamaları önemli faydalar sağlamakla birlikte ciddi sınırlamalara da sahiptir. Örneğin, yapay zeka, melanom hastalığını binlerce diğer kötü huylu tümör görüntüsü ile karşılaştırarak dermatologlardan daha iyi tespit edebilir, ancak hastanın genel cilt sağlığını analiz etmede yetersiz kalabilir. Bu nedenle, hastayı kapsamlıca muayene edebilecek bir doktora ihtiyaç vardır. Yapay zeka uygulamalarından doğru sonuçlar elde etmek için modelin temel aldığı girdi verileri büyük önem taşır. Yakın zamanda yapılan bir araştırma, böbrek hastalığı seviyelerini tahmin ederken bir ırk çarpanı (multiplier) kullanmanın, algoritmaların Afrikalı Amerikalılar için gerçekte olduğundan %33 daha sağlıklı sonuçlar vermesine neden olduğunu ortaya çıkardı. Bu durum, örneğin, onların böbrek nakli yapılacak hastalar listesine alınmamalarına sebep oluyordu. Bir diğer sınırlama ise, yapay zekanın gerekli işlevleri yerine getirebilse bile, insan doktorların yerini almasının diğer nedenlerle optimal olmayabileceğidir.
| |
| | |
| Dahası, bir doktor veya sağlık çalışanının, bakımının, sadece sorunu teşhis etmek ve harekete geçmekten ibaret olmadığı dikkate alınması gereken hususlar arasında yer alır. Bir hastaya sempati göstermek, ona ilgi duyduğunuzu belli etmek, ellerini tutmak ve göz teması kurmak da önemlidir. Bir kliniğe gittiğimizde, hemşirenin nezaketi ve gülümsemesi, tüm süreci katlanılabilir kılan tek faktör olabilir. Pasquale'nin belirttiği gibi, ihtiyaçlarımızı karşılıyor gibi görünen ve insan duygularını taklit eden robotlar yapsak bile, “bakım, ... ancak bakım verenin en azından ilke olarak bakım yapmayı bırakma özgürlüğüne sahip olduğu bir karşılıklı ilişki sonucunda ortaya çıkabilir.” Bryson da bu durumu, “Metal ve silikondan yaptığımız hiçbir şey, fenomenolojimizi bir fare ya da inek kadar paylaşmayacak ve pek az kişi inekleri veya fareleri neslimizi sürdürecek geçerli taşıyıcılar olarak görür.” cümlesiyle ifade eder.
| |
| | |
| Aşk, iyilik, bağlılık, empati gibi özellikleri yapay zekaya yerleştirmeyi asla başaramayacağız. Ancak, giderek daha fazla yapay zekaya bağımlı hale gelmek, bizi hem daha bireyci hale getiriyor hem de diğer insanlardan uzaklaştırıyor. Yapay zeka, görme engelli bir kişinin yaşamını kolaylaştırabilir, bir huzurevi sakinine moral verebilir, ancak insani dokunuşun kaybını riske atmadan insanın yerini alamaz.
| |
| | |
| === 2.2. Eğitim ===
| |
| Eğitimde yapay zeka kullanımının da birçok sınırlamaları ortaya çıkmaktadır. 2022 yılında, Iowa'da sınıflara kameralar yerleştirilerek ebeveynlerin çocuklarının canlı video görüntülerine erişimini sağlamak amacıyla bir yasa tasarısı sunulmuştur. Tasarıda ayrıca yayını engelleyenlere ceza verilmesini de önermektedir. Bu tasarı kanunlaşmasa da bu, çocukların okulda canlı izlenmesinin ilk örneği değildir. Ancak, neden birisinin çocuğunun canlı video yayınının diğer ebeveynler gibi yabancılara açık olmasını isteyeceğini sorgulamak gerekir. Veya bir öğretmen, başının üstünde bir kamera varken dersini ne kadar verimli anlatabilir? Ayrıca, bu uygulama bazı teknoloji firmalarının “problem öğrencileri” tespit ettiğini iddia eden yüz tanıma sistemleri tasarlamasına neden olmaktadır, ki bu, yanlış bir şekilde üzüntü veya korkuya atfedilmektedir. Ancak, öğrencilerin duygularını yüz ifadelerinden yakalamaya çalışmak hatalı bilim örneğidir. Uzmanlar, bu tür tekniklerin “insanların duyguları nasıl ifade ettikleri konusunda ırkçı ve kültürel olarak önyargılı varsayımları yeniden ürettiğini” belirtmektedir. Bu etiketleme, bir öğrencinin veri profilinde kalıcı olabilir ve gelecekte de olumsuz etkiler doğurabilir.
| |
| | |
| Son olarak, yapay zekanın öğretmenlerin yerini alması tartışmasında, insan olduğumuzu ve her hareketi bazı çarpanlarla ölçülebilir veri işlemciler olmadığımızı unutmamalıyız. Bir öğretmen, bilgilerin yanı sıra hayat tecrübelerini de aktarabilir, bu da öğrencilerin yaşamlarına ışık tutabilir. Bu nedenle, öğretmenler de öğrencileri gibi doğru ve yanlışlarıyla kusursuz olmayan insan olmalıdır.
| |
| | |
| Yapay zeka ve makine öğrenimi ile ilgili sorun kaynaklarından biri, büyük veri toplama noktalarında ortaya çıkan veri noktaları karmaşıklığıdır. Kearns ve Roth'a göre, makine öğrenimi artık bireysel veri setleri oluşturabiliyor. "Problem öğrenci" gibi damgalayıcı bir veri büyük veri ortamına girdiğinde, bu veri noktası, makine öğrenimi tarafından çizilen karmaşık bağlantılar nedeniyle tüm veri setini etkileyebilir. Bu karmaşık bağlantılar insan anlayışının ötesindedir. Böyle bir veri noktasını çıkardığımızda da, bu modelin doğruluğunu azaltabilir. Bugün bu veri setleri, banka kredi başvuruları, üniversite kabulleri, işe alımlar, sosyal yardımların tahsisi, kredi skorlaması ve hatta suçu tekrar etme eğilimi değerlendirilmesi gibi önemli karar mekanizmalarında kullanılmaktadır. Ancak yapay zekayı böyle dönüm noktalarında kullanmak ne kadar güvenilirdir? New York Üniversitesi AI NOW Enstitüsü, kişilik ve/veya duyguları belirlediğini iddia eden teknolojilerin yukarıda bahsedilen hayatî konularda karar almaktan men edilmesi gerektiği konusunda uyarıyor.
| |
| | |
| === 2.3. Yapay Zekânın Kamusal Uygulamaları ===
| |
| Hollanda'daki Çocuk Yardımı Vakası, yapay zekanın hukukun üstünlüğüne ilişkin herhangi bir güvenlik önlemi olmadan, hayati bir konu olan sosyal yardımların dağıtımı gibi karar verme süreçlerinde uygulanmasının ne gibi ciddi etkilere yol açabileceğine dair bir örnek teşkil etmektedir. 2013 yılında büyük çaplı bir dolandırıcılığın ardından, yasa değiştirilmiş ve Hollanda'da çocuk bakım yardımı sağlamak amacıyla dolandırıcılık yapılmasını önlemek için katı kontroller uygulanmaya başlanmıştır. Bu dönemde, şüphelenilen kişilerden beş yıl öncesine kadar yardımların tamamını geri ödemeleri istenmiştir. Vergi ve Gümrük İdaresi (TCA), şüpheli aileleri işaretlemek için yapay zekaya dayalı bir risk-taksonomi modeli kullanıyordu. Sorun, modelin geçmiş başvurulardan öğrenerek, vatandaşlık ve etnik kökeni, sahtecilik vakalarını tespit etmek için birer gösterge olarak kullanmasıydı. Bu nedenle, vatandaş olmayan veya Hollanda kökenli olmayan başvuru sahipleri, geçmişteki önyargılı kararlarla birlikte incelenecek vakalar olarak seçildi. Sonuçta, 2012-2019 yılları arasında, 25.000'den fazla kişi hatalı olarak suçlanmış ve bu yıllar boyunca aldıkları on binlerce euroyu geri ödemeleri istenmiştir.
| |
| | |
| Bu politika, ırk ve milliyet ayrımcılığını yasaklayan, Sözleşme'nin 1 No'lu Protokol'ünün 12. Maddesi'nin ihlalidir. Ayrıca, bu durum GDPR'nin 22. Maddesi kapsamına girer: "Profil oluşturma dahil, yalnızca otomatik işleme dayalı bir karara tabi tutulmama hakkı, ki bu karar kişiyi ilgilendiren yasal etkiler doğurur veya benzer şekilde önemli ölçüde etkiler." Hollanda veri koruma otoritesi de ayrımcı profilleme yasağı(Madde 6(1)) ile hukuka uygunluk ve şeffaflık ilkelerinin ihlalini (Madde 5(1)(a)) tespit etmiştir. Daha kötüsü, ebeveynler/veliler herhangi bir karara itiraz edememiş, sadece TCA'ya telefonla şikayette bulunabilmiş, ancak yardım alamamışlardır. İddiaya göre, bu zorlu süreç, intiharlar, boşanmalar ve çocukların ailelerinden alınması gibi trajik sonuçlara yol açmıştır.
| |
| | |
| Zamanla, yapay zekada daha fazla gelişme ve daha fazla olay göreceğiz, bu nedenle otomatik karar verme sistemleriyle nasıl başa çıkacağımızı öğreneceğiz. Ancak şu an için, bu vaka, (şeffaflık, yorumlanabilirlik, açıklanabilirlik gibi) güvenlik önlemleri ve insan denetimi olmadan bu modellere tamamen bağımlı olmanın telafisi mümkün olmayan zararlara yol açabileceğini açıkça göstermektedir. Bu vaka, yaşamları derinden etkileyebilecek bu tür yapay zeka kullanımlarının düzenleyici kısıtlamalara tabi tutulması gerektiğini kanıtlar niteliktedir.
| |
| | |
| === 2.4. Otonom Araçlar ve Akıllı Şehirler ===
| |
| Otonom araçlar, yapay zeka teknolojisinin hızla gelişen alanlarından biridir. Yalnızca ABD'de, Tesla'nın Autopilot işlevi 2 milyondan fazla araçta bulunmaktadır. Bugün yollarda gördüğümüz araçlar tam anlamıyla otonom değil; hâlâ araçta bir insan sürücünün bulunması gerekiyor. Otomobil üreticileri sürücüsüz araçlar geliştirmeye hevesli olsalar da, otonom araçlar güvenlik, sorumluluk ve ahlak konularında birçok sorunu beraberinde getiriyor. Bunlardan, güvenlik meselesi en başta geliyor. 2016 yılından bu yana, sadece ABD’de Tesla'nın “Autopilot” sistemi ile ilgili 40 özel kaza soruşturması yapılmış olup, bu kazaların yalnızca üçünde Autopilot sistemi suçsuz bulunmuştur. Şu ana kadar kazalar, 23 cana mal olmuş, sonuncusu da Temmuz 2023'te gerçekleşmiştir. Otonom bir araçla ölümcül bir kaza meydana geldiğinde kimin sorumlu olacağı da ayrı bir tartışma konusudur. Üretici mi, yazılım mühendisleri mi yoksa sürücü mü sorumlu olmalıdır? Örneğin, Birleşik Krallık Hukuk Komisyonu, araç otonom moddayken araçtaki yolcunun cezai sorumluluğu olmadığını belirtmiştir. Hukuk Komisyonu ayrıca, "dürüstlük yükümlülüğü" getirmekte, yani üreticinin veya denetleyici operatörün bilgi eksikliği veya yanlış bilgi vermesi durumunda "ağırlaştırılmış" suça dair yaptırımların uygulanacağını belirtmektedir. Gerçek bir kazada sayısız parametre bulunmaktadır; örneğin, kazadan önce aracın herhangi bir işlevi arızalandı mı, sistem sürücüyü kontrolü ele alması için uyardı mı, arızanın sürücü veya uzaktan operatörle bir ilgisi var mı, sürücü kontrolü aldıktan sonra kazayı önlemek için gereken önlemleri aldı mı vb. Buna mukabil, yakın zamanda ABD'de bir şoför, Tesla'nın otomatik pilot modunda kırmızı ışıkta geçip iki kişinin ölümüne neden olduğu için taksirle cinayet ile suçlandı. ABD Ulusal Karayolu Trafik Güvenliği İdaresi ise, otonom araçların yolcu koruma standartlarını karşılamak için insan kontrol ekipmanına sahip olmalarının gerekmeyeceğini bildirdi. Öte yandan, COMEST raporu, manuel sürüş yapma veya otomatik pilot modunda sürüş kararlarının her ikisinin de insan tarafından alındığını, dolayısıyla bedensel yaralanma/ölüm meydana geldiğinde ana sorumluluğun sürücüye yüklenmesi gerektiğini öne sürüyor. Ancak, bu durumun, müdahale edecek direksiyon veya pedal olmadığında uygulanamayacağı açıktır.
| |
| | |
| Otonom araçlar ile ilgili zihinleri meşgul eden ikinci sorun, ahlaki sorumluluk meselesidir. Ünlü tramvay ikilemi tarafından ilham alınan bu tartışma, ölümcül bir çarpışmanın kaçınılmaz olduğu durumlarda, Otonom aracın yolcu, yoldan geçen yayalar veya yol kenarındaki vatandaştan hangisini kurtaracağı çıkmazını ele alır. Bu senaryonun üç farklı kombinasyonunu tartışan Contissa ve arkadaşları, bir etik düğmesi öneriyor; bu düğme, kişinin ahlaki seçimlerini fedakâr (başkalarını kurtarmaya odaklı) ile bencil (yolcuları kurtarmaya odaklı) arasında bir ölçek üzerinde uyarlamasına olanak tanıyor. Bencil modda, otonom araç, örneğin yolcunun, ani bir yoldan sapma ile ölme olasılığı %2 kadar küçük, yayaların ölme olasılığı %98 kadar kesin olduğunda bile, yolcuyu kurtarmak için yoluna devam ediyor. Böyle bir sistemde, kendini koruma içgüdüsüne karşı denge sağlamak amacıyla, bencil mod seçiminin sigorta primleri üzerinde artırıcı bir etkisi olacağı hatırlatılıyor. Ancak, burada ilk sorun, yolda yürürken gördüğümüz bazı araçların kaza durumunda bizi öldürmek üzere programlandığı gerçeğidir. Aslında, Gogoll ve Müller, oyun teorisini kullanarak, bahsi geçen "kişisel etik ayarının" pekçok cana mal olacağını, çünkü ahlaki seçimin 'aşırıya kaçacağını' ve çoğunluğun 'bencil' ayarları uyarlayacağını belirterek, bunun yerine zararı en aza indirmeyi amaçlayan ve devlet müdahalesiyle belirlenen bir "zorunlu etik ayarının" daha az can kaybına yol açacağını belirtmektedir. Bu açıklamayla aynı doğrultuda bir anket, insanların %64'ünün kendilerini kurtarmak için bir yayayı feda etmeyi seçtiğini göstermektedir. İkinci sorun, sürücülerin hayatlarını başkalarınınkiyle kıyasladıklarında alenen kendi hayatlarını tercih etmeleridir. Bu tür seçeneklerle karşı karşıya kalmak ve belki de bir nebze bencil kararlar vermeye teşvik edilmek, toplumun ahlaki normlarını, yani dayanışma, işbirliği ve karşılıklı desteği önemli ölçüde zedeleyebilir. Bu nedenle, otonom araçlar sektörüne kanuni düzenleme getirmenin, toplumun genel refahı için önemli bir unsur olduğunu söylemek gerekir.
| |
| | |
| Yapay zekanın gerçek hayattaki sistemlere entegre edilmesi söz konusu olduğunda, dile getirilen bir yaygın endişe de gizliliktir. Otonom araçlar da bu durumun bir istisnası değildir. Size hizmet eden akıllı arabanız, varış noktanızı, çocuklarınızın okulunu, programınızı, alışkanlıklarınızı, nerede/ne zaman alışveriş yaptığınızı ve benzeri bilgileri bilir. Akıllı telefonlarımızın zaten tüm bu verilere sahip olduğunu iddia edebilirsiniz, ancak hedeflenen şey, örneğin, aracınızı istediğiniz yere bırakabileceğiniz ve onun bir otopark bulup, isteğiniz üzerine geri döneceği tam teşekküllü kentsel park sistemlerine sahip olmaktır. Bir otopark bulmak, boş alanlardan ve otoparklardaki sensörlerden gelen sinyalleri almayı gerektirir. Kısacası, böyle projeler, şehirdeki her hareketi takip eden kameralar ve sensörler gerektirir. Elbette, daha müreffeh, ekonomik ve ekolojik şehirler yaratma projeleri hayata geçirilmelidir, ancak bu projelerin insanların gizliliği üzerindeki etkileri konusunda dikkatli olmalı ve yaşamlarımız tam bir gözetim altına girmeden önce uygun önlemleri almalıyız.
| |
| | |
| Birleşmiş Milletler, 2050 yılına kadar dünya nüfusunun %68'inin kentsel alanlarda yaşayacağını tahmin etmektedir. Artan kentleşme, şehirlerde altyapı ve sosyal hizmetlere olan ihtiyacın artması anlamına gelir. Bu nedenle, birçok akıllı şehir projesi, enerji tüketimini azaltma, hava kalitesini artırma, talep yönetim sistemleri, açık Wi-Fi ağı, kamu hizmetlerine daha uygun erişim ve daha güvenli mahalleler gibi hedeflere katkıda bulunur. Öte yandan, akıllı teknolojilerin sürekli izleme, yaygın kameralar sayesinde sürekli cezalandırılma tehdidi ve hayatın, kredi puanlarını artırmak ve en çok ödüllendirilen vatandaş türüne uyum sağlamak için karamsar bir yarışa dönüşmesi gibi diğer etkileri de vardır. Çin'in Sosyal Kredi Puanı (SCS) sistemi, bu tür distopik bir topluma örnek teşkil eder. SCS, insanları, şirketleri ve devlet kurumlarını ne kadar 'güvenilir' olduklarına göre değerlendirir. Güvenilirlik, trafik kurallarını ihlal etmek, sigara içilmeyen alanları ihlal etmek, aşırı alışveriş alışkanlıkları, sosyal medyada sahte haberler yaymak gibi birçok faktöre bağlıdır. Seyahat yasakları, okul yasakları, sınırlı istihdam olanakları, kredi kartı başvurularının veya banka kredilerinin reddedilmesi, insanlara uygulanan bazı cezalar arasında yer alır. Ayrıca, düşük kredi puanına sahip insanlarla veya işletmelerle akraba olmak veya iş yapmak, bir kişinin kendi geleceği üzerinde de etkiler yaratabilir. Hayatınızda hiçbir şeyi özel tutamadığınız ve başınızın üzerinde sürekli olarak Demokles'in kılıcının sallandığı bir yerde yaşamak, insan onuruyla bağdaşmaz. Böyle yöntemlerle zincirlenmiş bir toplumda, insanın özgüveni zedelenebilir.
| |
| | |
| Akıllı şehirlerle ilgili bir diğer konu, akıllı şehir proje hedeflerinin altında yatan yapay zeka modellerinin algoritmalarını kimin sağladığıyla ilgilidir. Genellikle bu tür projeler, Fujisawa Sustainable Smart Town’da Panasonic, LinkNYC'de Sidewalk Labs veya Sidewalk Toronto örneklerinde görüldüğü gibi, yerel yönetimler ve özel şirketler ortaklıklarından oluşurlar. Şehir planlaması, güvenlik, suçluları tespit etme veya şartlı tahliye kararları gibi önemli kararları almak için kullanılan algoritmalar ya "kara kutu" probleminden dolayı açıklanamıyor ya da ticari sır olarak kabul edildiğinden açıklanmıyor. Dolayısıyla, öznesi olduğumuz yapay zekâ yargılarına nasıl ulaşıldığı, bu modelleri uygulamaya koyan ve seçmenlerine karşı sorumlu olan hükümet yetkilileri ve kamuoyu için belirsizdir.
| |
| | |
| Bu noktada üç sorun vardır. Birincisi, özel kuruluşlar ve yetkililer arasında yapılan sözleşmelerde kamu verileri kullanıldığı için, bu verilerin mahremiyetini sağlamak amacıyla, bağımsız üçüncü tarafların algoritmaları incelemesi engelleniyor. Örneğin, bir yapay zeka tarafından verilen şartlı tahliye kararı önerisinde, suç eylemi, suç kaydı, yaş, konum gibi faktörlerin nasıl hesaba katıldığı, sürecin şeffaf olması için önemlidir. Modelin sonucuna ulaşırken dikkate aldığı her bir unsurun oranı gibi önemli politik kararlar, seçilmiş hükümet tarafından belirlenmelidir. İkincisi, aynı örnekten hareketle, adalet ve demokrasinin yapı taşı olan hukukun üstünlüğü, tutukluluk nedenlerinin açıklanamaz olduğu durumlarda veya başka bir örnekle ifade edecek olursak seçmenin bilgi edinme hakkının kısıtlandığı durumlarda zayıflar. Üçüncüsü, güvenlikten hukuk uygulamalarına, yargıya ve günlük yaşamın birçok alanına kadar geleneksel olarak devletin vazifesi olan pek çok şey, insanlara hizmet etmekten ziyade kâr etmeyi hedefleyen özel kuruluşlara devredilmektedir.
| |
| | |
| Bu konuda şirketler, iki yüzlü bir gündem dahi izleyebilir. Facebook (Meta), kullanıcılara ilgili danışmanlık hizmetini kolayca bulmalarına yardımcı olmak için duygusal sağlık merkezi geliştirdi. Ancak, sızdırılan bir belgeye göre, sosyal medya devi, gençlerin paylaşımlarından kendilerini "güvensiz" veya "değersiz" hissedip hissetmediklerini tespit etti ve bu verileri bir banka ile paylaştı. Facebook'un adı, kullanıcılarından akademik kullanım onayı altında veri toplarken sadece onay verenlerin değil, aynı zamanda arkadaşlarının da verilerini Cambridge Analytica'ya ilettiği ve bunun da Donald Trump'ın başkanlık kampanyasına yardımcı olduğu ortaya çıkan skandal olaylarda geçti. Daha yakın zamanda, Facebook'un eski ürün müdürü Frances Haugen, taciz veya şiddet içerikli gönderiler paylaşma yasağından muaf tutulan elit bir kullanıcı grubu ile ilgili ifşa niteliğindeki belgeleri senatoda beyan etti. Ergenlik dönemindeki kızların zihinsel sağlığı üzerindeki toksik etkiler, sitenin insan kaçakçıları tarafından kullanılması, azınlıklara karşı nefreti körükleme platformun bazı vahim sorunları arasında yer alıyor. Haugen ve sızdırdığı belgelere göre, Facebook yöneticileri, sitenin tehditkâr etki ve faaliyetlerine rağmen kullanıcı etkileşimini her şeyin üstünde tuttular. Şirketin yanıtları arasında algoritmanın zararlı içerikleri artırabileceği, yani kullanılan teknolojinin zararlı materyallerin yayılmasını engelleyecek kadar gelişmiş olmadığı yer aldı. Görünen o ki, yapay zeka kullanılan tüm alanlarda, buna sosyal medyanın zararlı etkileri de dahil, kanuni düzenlemelere ve aktif insan gözetimine ihtiyacımız var.
| |
| | |
| == 3. Yapay Zeka Etiği Önerisi ==
| |
| Son zamanlarda, uluslararası kuruluşlar, hükümetler ve sivil toplum kuruluşları da dahil olmak üzere farklı kaynaklardan birçok farklı yapay zeka etiği önerisi sunuldu. Bu çalışma kapsamında aşağıdaki dokuz seçkin belge incelendi:
| |
| | |
| * Asilomar AI İlkeleri (2017);
| |
| * Avrupa Bilim ve Yeni Teknolojiler Etik Grubu (2018) Yapay Zeka, Robotik ve 'Otonom' Sistemler Üzerine Beyan;
| |
| * AB Yüksek Düzey Uzman Grubu (HLEG) (2019) Güvenilir AI için Etik Kılavuzları; | |
| * IEEE (2019) Etik Olarak Hizalanmış Tasarım: Otonom ve Akıllı Sistemlerle İnsan Refahını Önceliklendirmek İçin Bir Vizyon v2;
| |
| * Montreal Üniversitesi, Sorumlu AI için Montreal Deklarasyonu (2017);
| |
| * OECD (2019) Yapay Zeka Konseyi Tavsiyesi;
| |
| * AI Üzerine Ortaklık (2022) Temel İlkelerimiz ve Öğretilerimiz;
| |
| * The Public Voice (2018) 'Yapay Zeka İçin Evrensel Kılavuzlar'; ve
| |
| * UNESCO (2021) Yapay Zekanın Etiği Üzerine Tavsiye.
| |
| | |
| Bu belgelerden, donanım, yazılım veya hibrit modeller olmalarına bakılmaksızın herhangi bir yapay zekâ sistemine entegre edilmesi gerekli görülen dört genel ilke çıkarıldı. Bu ilkeler, önerilerle birlikte aşağıda açıklanmış olup, kapsamları bazı konularda örtüşmektedir.
| |
| | |
| === 3.1. Dört Genel İlke ===
| |
| | |
| ==== 3.1.1. Temel Hakların ve Değerlerin Teşviki ====
| |
| Birinci ilke, Montreal Deklarasyonu ve Evrensel Kılavuzlar dışında her belgede bulunmakta olup, yapay zeka sistemlerinin geliştirilmesi, dağıtımı ve kullanımı sırasında insanların zarar görmemesini ve insan haklarının ihlal edilmemesini veya suistimal edilmemesini garanti altına alır. Bu prensibe göre insan onuru ve özgürlüğü korunacak, eşitlik hakim olacak, yapay zekalı sistemlerin kullanılması ırk, din, cinsiyet veya sosyal sınıf temelli herhangi bir ayrımcılığa neden olmayacaktır. Ayrıca, insan merkezli yapay zeka sistemleri sadece insan becerilerinin korunmasını değil, aynı zamanda bunların geliştirilmesini de sağlamalıdır. Robotlar veya yapay zekalı sistemlerin birer yapay nesne olduğunu ve karar alma ve kontrolün insanların elinde olması gerektiğini unutmamak gerekir (IEEE İlke 1). Özellikle yüksek riskli yapay zeka uygulamalarında bu durum çok önemlidir. Universal Guidelines, insan kontrolünün sağlanamadığı yapay zeka sistemlerinin sona erdirilmesini öngörmektedir. İnsan özerkliği, 8 belgeden 6'sı tarafından vurgulanmaktadır.
| |
| | |
| Yeni yapay zeka modellerini lisanslamak ve onaylamak için mekanizmalar ve insan belirleyiciliğini korumaya yönelik güvenlik önlemleri ile uyumlu bir ulusal standartlar kurumu kurulması önerilmektedir. Aynı şekilde, herhangi bir yaşam ve ölüm kararının robotlar tarafından verilmesi kabul edilemez olarak görülmektedir. Geliştirilen yapay zeka yöntemleri, meşru amaçlarla orantılı olmalıdır. Son olarak, hiçbir yapay zeka modeli sosyal puanlama ve kitlesel gözetim amaçları için tasarlanmamalıdır.
| |
| | |
| ==== 3.1.2. Yapay Zekâ Sistemlerinin Güvenliği ve Güvenilirliği ====
| |
| Günlük hayatımızda, pek çok şeyi yapay zekalı sistemlere emanet etmeye başladık. Bu nedenle, kullandığımız sistemlerin insanlar, diğer canlılar ve çevre için güvenli ve emniyetli olması ve teknik olarak sağlam niteliklere sahip olması kritik önem taşımaktadır. Güvenlik, tüm belgelerde yapay zekanın üzerine inşa edilmesi gerektiği kabul edilen bir köşetaşı olarak karşımıza çıkar. Yapay zeka geliştiricileri, aynı koşullar altında aynı sonuçları üretebilen güvenilir modeller için çaba göstermelidir. Ayrıca yapay zeka modelleri, herhangi bir saldırıya karşı dayanıklı olmalıdır. Modelin çalışmasını engelleyecek herhangi bir veri, modele sızmamalıdır (Universal Guidelines’daki veri kalitesi yükümlülüğü). Yapay zekanın dağıtımının ardından, sistemlerin burada listelenen etik kurallara uyumunu ve güvenliğini kontrol etmek için düzenli aralıklarla testler yapılmalıdır.
| |
| | |
| Toplumsal refah, yapay zekalı sistemlerin güvenliği ve güvenilirliği ile yakından ilişkilidir. Bu sistemlerin kullanıma sunulmasının ardından, insan refahı, olumlu başarılar ve mesleki fırsatlar sadece elitler için değil, herkes için sağlanmalıdır. Yapay zekanın adalet, özgürlük, eşitlik ve demokrasi üzerinde olumsuz etkileri olmamalıdır. 9 belgeden 6'sında vurgulandığı gibi, akıllı sistemlerin çevresel etkileri değerlendirilmelidir ve uzun vadeli faydalar hedeflenmelidir. IEEE ayrıca, toplumsal refahın insanlar rakamlara indirgenmeden bütüncül bir şekilde ele alınması gerektiğini belirtmektedir.
| |
| | |
| ==== 3.1.3. Gizlilik ve Veri Koruması ====
| |
| Universal Guidelines dışında tüm belgeler gizlilik ve veri korumayı içermektedir. Özel hayata ve aile hayatına saygı hakkı, AİHS Madde 8 tarafından tanınan temel bir haktır. Yapay zekalı sistemlerde, çoğu akıllı modelin işleyişinin bir şekilde veri işlemeye dayanması, kişi mahremiyetini tehlikeye atmaktadır. Yapay zekalı modellere kişisel veriler sağlandığında, veri koruması yalnızca yetkili kişilerin erişimine izin veren mekanizmalarla sağlanmalıdır. Ayrıca, GDPR Madde 25, veri koruma için uygun teknik ve organizasyonel önlemlerin alınmasını ve yalnızca gerekli kişisel verilerin işlenmesini öngörür. Benzer şekilde, HLEG, veri protokollerinin varlığının önemini vurgulamaktadır. Makine Öğrenimi insan zihninin anlayışının ötesinde sebeplerle yeni ancak kötü niyetli yargılar çıkarabileceğinden dolayı, yapay zekalı sistemlerin ayrımcılık içeren, yanlış veya düşük kaliteli verilerden arındırılması da kritik öneme sahiptir.
| |
| | |
| İlk ilkede belirtilen sosyal puanlama ve kitlesel gözetim uyarısıyla uyumlu olarak, GDPR Madde 22, yani 'yalnızca otomatik işlemeye dayalı' karar verme kısıtlamasının her üye devlette uygulanması gerekmektedir. İzin verilen istisnai durumlarda, algoritmik karar vermeyi geçersiz kılabilecek güvenlik önlemleri bulunmalıdır.
| |
| | |
| ==== 3.1.4. Şeffaflık ve Hesap Verebilirlik ====
| |
| Yapay zekalı teknolojilerin işleyişinin bilincinde olma ve anlama olan şeffaflık, yapay zekalı hizmet ve ürünler her geçen gün daha yaygın hale geldiği için önemli bir gereklilik arz eder.(Şeffaflık Hakkı – Universal Guidelines). Şeffaflık ayrıca, yapay zeka ile etkileşimde bulunulduğunda bilgilendirilme, özellikle temel hakların ihlal edilebileceği durumlarda yapay zekalı sistemlerden çıkan sonuçların gerekçelerinin sunulması ve bir insana danışma seçeneğinin sunulmasını içerir (UNESCO Tavsiyeleri, HLEG).
| |
| | |
| Şeffaflık, hesap verilebilirlik için de esastır. Yapay zekalı sistemlerin neden olduğu zararlar için kişileri veya kuruluşları gözlemleyebilmek ve sorumluları belirleyebilmek amacıyla, bir sistemin iç işleyişi açıklanabilir olmalıdır. Tıbbi uygulamalar, yargı uygulamaları, ulaşım sistemleri, akıllı şehir altyapıları gibi kritik kararlar veren tüm programlarda yorumlanabilirlik ve açıklanabilirlik bulunmalıdır.
| |
| | |
| <nowiki>***</nowiki>
| |
| | |
| === 3.2. Ele Alınması Gereken Konular ===
| |
| Yapay zeka üreticileri bu dört ilkeyi içselleştirip, etik kurullar tarafından denetlenmek üzere kurumsal iç işleyiş mekanizmalarına eklemelidir. Dışta ise, ürün/hizmet kalitesini belirleyen hükümet ve sivil toplum kuruluşları, yapay zeka öğesi içeren tüm ürün ve hizmetler için bu ilkeleri uygulamalıdır. Özetle, insan refahına uygun olarak akıllı sistemlerin düzgün çalışması için bu yapay zeka etik ilkeleri, tüm yapay zekalı sistemler için bir anayasa gibi olmalıdır. Son olarak, yapay zekâyı düzenleyen yasalar, bu ilkelerin uygulanmasını kolaylaştırmalıdır.
| |
| | |
| Belirtilen genel ilkelerin bir yansıması olarak aşağıdaki satırlarda aciliyetle ele alınması gereken birkaç konu özetlenecektir.
| |
| | |
| ==== 3.2.1. Üretken Yapay Zeka ====
| |
| Üretken yapay zeka yeni bir tabir olmamakla birlikte, Open AI’ın ChatGPT sohbet robotunu Kasım 2022’de kullanıma sunmasından sonra sıklıkla kullanılmaya başlanmıştır. Sohbet robotlarının kısa sürede popüler hale gelmesiyle birlikte yapay zekanın insan benzeri metinler ve görseller üretme kapasitesi geniş çevrelerce anlaşılmıştır. Tam da bu noktada etik ve hukuk açısından problemli konular gündeme gelmektedir. Telif hakları, akademik hırsızlık, önyargılı ve yanıltıcı metinler, sohbet robotlarının ürettiği ürünlerin hak ve mülkiyet sahipliği bunlardan bazılarıdır. Nitekim The New York Times gazetesi milyonlarca makalesinin Open AI tarafından ChatGPT’yi eğitmek için izinsiz olarak kullanıldığı iddiasıyla bir dava açmıştır. Anlaşılacağı üzere kanuni düzenlemelerin ve akademik çalışmaların bu alanlara yoğunlaşması büyük önem arz etmektedir.
| |
| | |
| ==== 3.2.2. Yapay Zekanın Hukuki Statüsü ve Fıkıh ====
| |
| Yapay zeka beraberinde pek çok hukuki problem getirmiştir. Birkaç örnek vermek gerekirse, yapay zekâlı sistemlerin kendilerine ait hukuki kişiliklerinin olabilirliği, ürettikleri eserlerin kime ait olacağı, bir suça neden olduklarında cezalandırmanın nasıl olacağı veya zarara sebebiyet verdiklerinde bu zararı kimin veya kimlerin tazmin edeceği gibi çeşitli hukuki problemlere çözüm aranmaktadır.
| |
| | |
| Üstelik yapay zeka denilince akla gelen etik problemler de hukuk aleminde sonuçlar doğurmaktadır. Bu problemlerin çözümü için yapay zekanın hukuki statüsünün belirlenmesi büyük bir önem arz etmektedir. Literatürde, yapay zekanın hukuki açıdan alelade bir mal gibi değerlendirilmesi fikrinden köle statüsünde kabul edilmesine, insan gibi bir hukuk öznesi kabul edilmesi fikrinden hayvan statüsünde kabul edilmesi fikrine kadar pek çok öneri vardır. Avrupa Parlamentosu Hukuk İşleri Komisyonu 27 Ocak 2017 tarihinde yapay zekanın neden olduğu maddi zararların telafisi için elektronik kişilik tavsiyesinde bulunmuştur. Avrupa ve Amerikan hukuk düzeni içerisinde bu konuya henüz kesin ve tatmin edici bir çözüm bulunamamıştır. Zira bu konu kendine has şekliyle alışılagelmiş hukuk nesnelerinin hiçbirine benzememektedir. Nitekim adının anılması dahi etik açıdan problemli görülen ve günümüzde hukuken bir geçerliliği bulunmayan kölelik müessesesine dahi bu nedenle akademik çalışmalarda atıf yapılmaktadır.Aynı şekilde yapay zekanın hukuki statüsünü fıkıh perspektifinden inceleyen çalışmalarda da benzer bir arayış görülmektedir. Fıkhen hukuki statüleri farklı olan çeşitli varlıkların yapay zekâ açısından değerlendirilmesi gerektiğine dair öneriler getirilmektedir.
| |
| | |
| Bu noktada fıkha başvurmak orjinal bazı çözüm önerilerine kapı aralayabilir. Zira fıkıh, cari hukuk düzenlerinde benzeri bulunmayan veya farklı şekillerde yer alan kavram ve kurumlarıyla bizlere yeni bakış açıları vadetmektedir. Fıkıh usulünün delil ve yöntemleri, ehliyet ve zimmet bahisleri, zararların tazmininde kolektif bir sorumluluk tesis eden akıle müessesesi, faili meçhul cinayetlerin soruşturulması için başvurulan kasame yöntemi ve daha pek çok konu yapay zeka gibi girift ve tek bir kişinin sorumlu tutulmasının oldukça zor olduğu meselelerde bize uyuşmazlıkların çözümüne dair bazı ipuçları sunmaktadır.
| |
| | |
| Yazılı kanunların teknolojilerin ilerleme ve değişim hızına yetişmesi pek mümkün görünmemektedir. Zira kanunlaştırma uzun soluklu bir süreç olup, yürürlüğe giren kanunların yapay zeka ve diğer yeni teknolojilerin getirdiği hukuki ve etik uyuşmazlıkların pek çoğunu kapsamına alamaması gibi bir risk bulunmaktadır. Dolayısıyla meseleci bir yapıda olan ve başvurulacak temel ilkeler manasında külli kaidelerle de desteklenen fıkıh, yeni dönemin ihtiyaçlarına uygun bir hukuk sistemi olarak görünmektedir.
| |
| | |
| Fıkhın diğer bir yönü ise hukuki ilişkiler manasında muamelatla sınırlı olmamasıdır; fıkıh ahlakı da içerir ve fıkıhta hukuk kuralları ahlakı teşvik eder. Bir başka deyişle fıkhen caiz olan ama ahlaken uygun olmayan bir hükümle karşılaşmak mümkün değildir. Bu açıdan fıkıh insanlığın gelecekte karşılacağı problemlere etik çözümler bulunması için bütüncül bir bakış sunmaktadır.
| |
| | |
| Fıkhın özet olarak belirtilen potansiyelinin ortaya çıkarılması için farklı alanlardan uzman ve araştırmacıların, önce usul bilgisi edinmek suretiyle, fıkıh araştırmacıları ile birlikte fıkhı yeni bir bakış açısıyla incelemeleri gerekmektedir.
| |
| | |
| ==== 3.2.3. Yapay Zeka ve Kontrol Problemi ====
| |
| Yapay zekanın insanlığın ortak yararı için vadettiklerini reddetmek mümkün olmadığı gibi bu konudaki ilerlemelere seyirci kalarak sadece iyi şeyler olmasını ummak da doğru değildir. Zira yapay zeka konusunda halihazırda ciddi bir rekabet söz konusu olup etik kaygılar en son aşamada düşünülen meseleler gibi görünmektedir. Gelecek yıllarda hayatımıza girecek olan farklı alanlardaki çok gelişmiş yapay zekalı sistemlerin nasıl kontrol edileceği ve kötü amaçlı müdahalelerden nasıl korunacağı konusu, maddi kazanç elde etme ve alana hakim olma gibi hırsların gölgesinde kalmaktadır. Yapay zeka konusunda otorite isimlerden olan Stuart Russell, Yapay Zeka ve Kontrol Problemi adlı kitabında yapay zeka tarihinin başından beri hep daha zeki bir yapay zeka hedefinin peşinden gidildiğini ve bunun insanlığın sonunu getirebilecek ciddiyette bir hata olduğunu belirtmektedir. Bu nedenle yapay zekanın temel tanımlarını ve yapay zekayı oluşturan fikir ve yöntemlerin büyük kısmını yeniden inşa etmek pahasına da olsa hedeflerin yeniden belirlenmesi gerektiğini ifade eder. Elon Musk başta olmak üzere binlerce kişinin imzasını taşıyan 22 Mart 2023 tarihli bir açık mektupla yapay zeka çalışmalarının daha gelişmiş modeller üretilmeden önce en az 6 ay durdurulması ve gerekli güvenlik önlemleri alındıktan sonra ilerlemelerin devam etmesi talep edilmiştir. Bu konu, tehlike henüz geri dönüşü mümkün olmayan noktalara ulaşmadan ele alınmalı ve insanlığın geleceği ile ilgili sorumluluk hisseden kişi ve topluluklar bu konuda inisiyatif almalıdırlar. Yapay zeka konusunda üzerinde uzlaşma sağlanmış etik ilkeler, güvenlik önlemleri ve güvenli kullanım testleri en az teknik gelişmeler kadar önemlidir.
| |
| | |
| == Sonuç ==
| |
| Yapay zeka, modern dünyada vazgeçilmez bir hale gelmekte, yaşam döngümüzün her aşamasını etkilemektedir. Bu makalede göstermeye çalıştığımız gibi, insanlık yapay zekanın sürekli artan yeteneğiyle başa çıkmaya tam anlamıyla hazırlıklı değildir. Dahası, insan zihninin kapasitesini aşabilecek bir yapıtla karşı karşıyayız, ancak şu anda en acil meseleleri güvenlik, insan iradesi ve kontrolü, eşitlik, gizlilik ve etik oluşturur. Yapay zeka, modern demokratik toplumların yapı taşlarını tehdit etmektedir. Bu makalede, sınırları belirlenmemiş ve yanlış, önyargılı veya eksik verilerle beslenmiş yapay zekanın, dikkatsiz tasarım ve insan denetiminin eksikliğiyle birleştiğinde, ayrımcılıktan insan yargısının kaybına ve hatta ölüme kadar varan ciddi sonuçlar doğurabileceğini göstermeye çalıştık.
| |
| | |
| Bu, yapay zeka sistemlerinin entegrasyonunda etik ilkelere sahip olmanın gerekliliğine işaret etmektedir. Saygın yapay zeka etik çerçevelerinden dört ilkeyi bir araya getirdik: temel hakların ve değerlerin teşviki; yapay zeka sistemlerinin güvenliği ve güvenilirliği; gizlilik ve veri koruma; şeffaflık ve hesap verebilirlik. İlk ilke, insan haklarının ve yeteneklerinin korunmasını ve teşvik edilmesini, insan iradesinin ve ahlaki değerlerin korunmasını vurgular. İkinci ilke, demokratik kurumlara, herkes için mesleki fırsatlara ve nihayetinde toplumsal refaha katkıda bulunan güvenilir yapay zeka sistemleri ile ilgilidir. Üçüncü ilke, çoğu yapay zeka tekniğinin uygulanması sırasında veri açgözlülüğü nedeniyle gizlilik ve verilerin korunmasında meydana gelen gerilemenin ciddiyeti göz önüne alındığında, gizlilik ve veri korumanın önemini vurgulamaktadır. Son ilke olan şeffaflık ve hesap verebilirlik, insanların yapay zeka teknolojilerine güven duymalarının önemini ve bu iki kavram arasındaki doğal ilişkiyi vurgular. Ayrıca, temel haklar üzerinde etkisi olan yapay zeka sistemlerinin yorumlanabilirlik ve açıklanabilirlik özelliklerine sahip olmaları gerekmektedir. İnsan hayatındaki temel kararların gizemli, sırrına vakıf olunamayan ve kontrol edilemeyen programlara bırakılamayacağı anlaşılmalıdır. Ayrıca yapay zekanın beraberinde getirdiği hukuki ve etik problemlerin çözümü için fıkhın üzerinde çalışılmaya değer bir hukuk ve ahlak sistemi olduğunu dile getirdik. Bu çabaların istenen sonuçları vermesi, farklı alanların uzmanlarının birlikte çalışmasına ve insanlık yararına yürütülen bu yöndeki akademik çalışmaların yeterli desteği görmesine bağlıdır.
| |
| | |
| === Biyografi ===
| |
| '''Yunus Elmas,''' İstanbul Üniversitesi Hukuk Fakültesi'nde hukuk eğitimi aldı. İstanbul'da avukatlık yaptı. Tefakkuh Okulu'nun bir öğrencisi ve bu okul nezdinde yeni teknolojilerin fıkhi ve etik yönleriyle incelenmesi konusunda akademik araştırmalar yapıyor. Teknolojinin insanlık yararına kullanılması için bir araya gelmiş bir topluluk olan Shared Horizon Collective’in bir üyesi. Yüksek lisans tezini Prompt Engineering konusunda yazıyor. IT alanında yazılım test mühendisi olarak çalışıyor.
| |
| | |
| '''Süreyya Sevde,''' İstanbul Bilgi Üniversitesi Hukuk Fakültesinden 2019’da mezun oldu. Eylül 2021’de avukatlık ruhsatını aldı. Eylül 2022’de Queen Mary University of London’da Teknoloji, Telekomünikasyon ve Medya LL.M. tamamladı ve tezini verdi. Şu an Freelancer olarak yapay zekâyı denetlemeye dair işleri alıyor.
| |
| | |
| = Makale II: =
| |
| | |
| == Küresel Yapay Zeka Düzenlemesi için On Öneri ==
| |
| Burak Haylamaz LL.M.
| |
| | |
| == Giriş ==
| |
| Yapay Zeka, tıbbi araştırmaları güçlendirmek, iklim değişikliğini ele almak, endüstrileri dönüştürmek ve hükümetleri modernleştirmek de dahil olmak üzere birçok toplumsal fayda üretmektedir. Aynı zamanda, üretken yapay zeka chat botları ve görüntü oluşturucuları gibi yeni teknolojilerin hızla yaygınlaşması ve benimsenmesi, uzun süredir devam eden endişeleri yoğunlaştırdı. Bu durum, gizlilik ve veri koruma, şeffaflık ve açıklanabilirlik, insan hakları, fikri mülkiyet, güvenlik, önyargı, işgücü etkileri, yanlış bilgi ve dezenformasyon ve diğer toplumsal alanlarda yeni sorunlar ortaya çıkardı. Buna yanıt olarak, kuruluşlar yapay zekanın sorumlu bir şekilde geliştirilmesini ve uygulanmasını sağlamak için operasyonel kontroller ve yönetişim çerçeveleri geliştirmekte; endüstri uzmanları standartlar geliştirmek için çalışmakta; politika yapıcılar yeni yasalar oluşturmakta ve düzenleyiciler mevcut yetkilerin sınırlarını test etmekte ve yenilerini önermektedir. Ancak, ülkeler arasında yapay zekayı düzenlemek için en iyi yaklaşım konusunda bir fikir birliği yoktur: yapılması gereken katı düzenlemeler mi, ortak düzenleyici modeller mi, sertifikalar ve güvenceler mi, endüstri standartları mı yoksa bunların bir kombinasyonu mu olmalıdır?
| |
| | |
| Biz bu makalede, hesap verebilir, sorumlu ve güvenilir yapay zekayı mümkün kılmak için yapay zeka politika oluşturma ve düzenlemesine rehberlik edecek on öneri sunacağız. Bu on öneri, yapay zeka düzenlemesine yönelik üç katmanlı yaklaşımımızı özetlemektedir:
| |
| | |
| # ilke ve sonuç temelli kurallar,
| |
| # kanıtlanabilir kurumsal hesap verebilirlik,
| |
| # sağlam ve akıllı düzenleyici gözetim.
| |
| | |
| Böyle bir yaklaşım, mevcut teknoloji geliştiğinde bile yapay zekanın etik gelişimine ve dağıtımına rehberlik edebilecek temel ilkelere dayanan geleceğe dönük kurallar sağlar. Bu yaklaşımı aşağıda açıklıyoruz.
| |
| | |
| == 1. İlke ve Sonuç Temelli Kurallar ==
| |
| 1. Elde edilecek sonuçların nasıl elde edileceğine ilişkin ayrıntıları belirtmek yerine, elde edilecek sonuçları tanımlayan esnek ve uyarlanabilir bir çerçeve oluşturun.
| |
| | |
| Teknoloji geliştikçe ve yaygınlaştıkça yapay zeka düzenlemeleri güncel kalabilmelidir. Bu, yapılan düzenlemelerin etkili olabilmesi için gereklidir. Tüm kurallar teknolojiden bağımsız olmalıdır: aşırı kuralcı ve tekil teknolojilere veya mevcut iş modellerine özgü bir çerçeve çizilmesi, yapılan düzenlemelerin hızla demode olma ve faydalı yenilikleri engellemesi riskini taşır.
| |
| | |
| Kurallar da ilke ve sonuç temelli olmalıdır. Kuruluşların, bu sonuçlara nasıl ulaşılacağını dikte etmeden, kendi özel bağlamlarına uygun, risk temelli, doğrulanabilir iç politikalar, prosedürler ve kontroller aracılığıyla gerekli sonuçları (örneğin: adil, önyargısız, şeffaf, doğru, güvenli) sağlamalarına olanak tanımalıdır. Böyle bir yaklaşım, geliştiricilere, temel ilkeler ve sonuçlarla tutarlılığı korurken, fiili kontroller, teknik araçlar ve koruma önlemlerinde yenilik yapma yeteneği de dahil olmak üzere yenilik yapma esnekliği sağlar.
| |
| | |
| Aynı zamanda, kurallar uygulama kapsamları konusunda mümkün olduğunca kesinlik sağlamalıdır. Örneğin, yapay zeka için düzenleyici bir çerçeve, paydaşların hangi sistemlerin kurallar kapsamında olduğunu açıkça anlayabilmeleri için yapay zekayı tanımlamalıdır. Kurallar net ve sonuca odaklı değilse, belirsizlik ve aşırı kuralcılık, özellikle yapay zeka inovasyonu ve yatırımının güçlü motorları olan küçük ve orta ölçekli işletmeler (KOBİ'ler) ve start-up'lar için yatırım ve inovasyonu engelleme riski taşıyacaktır.
| |
| | |
| 2. Riskleri ve faydaları bütünsel olarak değerlendiren risk temelli bir yaklaşım benimseyin.
| |
| | |
| Yapay zekaya yönelik herhangi bir düzenleyici yaklaşım, temel insan haklarını korumaya ve bireyler ve toplum için riskleri en aza indirmeye çalışırken, yapay zekanın her ikisine de faydalı olacak şekilde geliştirilmesini ve kullanılmasını sağlamalıdır. Elbette, etkili yapay zeka teknolojilerini kullanmamanın bireyler ve toplum için riskler doğurabileceğini de unutmamak gerekir. Örneğin, hastalıkları tahmin edip önleyebilen veya siber güvenlik tehditlerini azaltabilen yapay zeka teknolojileri kullanılmazsa, bu tür riskler büyüyebilir. Bu konuda kapsamlı ve risk temelli bir yaklaşıma sahip olmak, yapay zeka sistemlerinin riskleri ve faydaları ile orantılı olarak pratik koruyucu önlemler almayı kolaylaştırır.
| |
| | |
| Risk temelli bir yaklaşım, yapay zekanın bireyler, organizasyonlar ve toplum için potansiyel faydalarını da değerlendirmelidir. Bu faydalar, yapay zekanın kullanılması veya kullanılmaması durumunda ortaya çıkabilecek risklerle karşılaştırılabilir. Örneğin, otonom araçların riskleri, bu araçların kullanıldığı farklı çevre koşullarına bağlıdır. Maden ve tarım alanlarında otonom araçların kullanımı, kentsel veya yerleşim alanlarına göre insanlara daha düşük zarar riski taşıyabilir. Aynı zamanda, bu alanlarda otonom araçlar iş gücünü hafifletme, sürdürülebilir tarımı destekleme ve verimliliği artırma gibi farklı faydalar sunar.
| |
| | |
| Kısacası, belirli bir yapay zeka teknolojisinin kullanımına yönelik kapsamlı risk değerlendirmelerinin sonuçları, kullanım durumlarına göre önemli ölçüde değişebilir. Politika oluşturma perspektifinden bakıldığında, yapay zeka uygulama alanının bağlamı önemlidir. Bu açıdan önceden yüksek veya düşük riskli kullanımları kesin olarak belirlemek zor olabilir. Risk temelli bir yaklaşım, otomatik olarak yüksek riskli kabul edilen yapay zeka sistemlerini tanımlayan kategorik bir yaklaşıma tercih edilir.
| |
| | |
| 3. Mevcut sert ve yumuşak hukuk temelleri üzerine inşa edin.
| |
| | |
| Esnek ve uyarlanabilir bir yapay zeka rejimi, mevcut yasal çerçeveler üzerine inşa edilmelidir. Yasal çerçeve, ‘sert hukuk’ (yönetmelikler ve mevzuat) ve ‘yumuşak hukuk’ (örneğin, OECD Yapay Zeka İlkeleri) olarak iki kısımda ele alınabilir. Yapay zekanın uygulama bulduğu birçok sektör (örneğin, sağlık, finans) halihazırda yüksek derecede düzenlenmiştir. Mevcut yasalar ve yönetmelikler, yapay zekanın kullanımına dair de çerçeveler sunar. Ancak, ilgili mevcut yasalar ve yönetmelikler de yapay zekanın gerçekliklerine göre yeniden yorumlanmalı ve uyarlanmalıdır. Yapay zeka ile ilgili risklere yönelik düzenleyici boşluklar olduğunda, bu boşluklar, mevcut düzenlemelerin uygulanmadığı sektörlere öncelik verilerek, hedeflenmiş düzenleyici ve birlikte düzenleyici müdahalelerle kapatılmalıdır.
| |
| | |
| Mevcut sert hukuk çerçevelerinden istifade etmek, yasal belirsizlikler ve tutarsızlıklar oluşturma riskini azaltır. Ayrımcılık karşıtı, tüketici koruma, fikri mülkiyet, veri koruma ve gizlilik konusundaki mevcut kurallar, yapay zeka ile ilişkili en önemli risklerin çoğunu ele almak için önemlidir. Düzenleyici kurumlar, mevcut çerçevelerin alakalı olduğu durumlarda yapay zekaya nasıl uygulanacağına dair rehberlik sağlayarak uyumu teşvik edebilir. Düzenleyiciler, çeşitli paydaşlarla istişare ederek bu rehberliğin en yararlı olacağı durumları belirleyebilirler. Bunun yanında, mevcut kuralların yapay zeka teknolojisindeki gelişmelere uyum sağlamak için bazı uyarlamalar ve gelişmiş düzenlemeler gerektirebileceğini kabul etmek de önemlidir.
| |
| | |
| Yapay zeka modelinin önyargılı veya ayrımcı sonuçlara yol açmayacak şekilde eğitilmesini ve çalışmasını sağlamak için sağlık, cinsiyet ve etnik köken gibi hassas kişisel verilerin kullanılması gerekiyor olabilir. Ancak mevcut veri koruma yasalarında, hassas kişisel veri kategorilerinin kullanılmasını sağlayacak yeterli yasal dayanak bulunmayabilir. Eğer belirli geleneksel veri koruma ilkeleri çok katı bir şekilde yorumlanırsa, faydalı yapay zeka uygulamalarının geliştirilmesi ve uygulanmasını engelleyebilir veya çeşitli verilere erişimin kısıtlanmasından dolayı istenmeyen önyargılar gibi sonuçlar doğurabilir. Düzenleyiciler, yapay zeka geliştiricileri ve uygulayıcıları ile istişare ederek mevcut veri koruma ilkelerinin yorumunu geliştirebilmek için düzenleyici rehberlik sağlayabilmelidir.
| |
| | |
| Son olarak, mevcut kurallar, paydaşlarla işbirliği içinde geliştirilen yumuşak hukuk çerçeveleri, endüstri standartları ve birlikte düzenleyici araçlarla desteklenmelidir. Uluslararası standartlar, çok paydaşlı geliştirme süreçleri yoluyla varılan ortak anlayışları ve değerleri yansıtan yapay zeka geliştirme ve uygulama için temel gereksinimleri belirlemeye yardımcı olabilir.
| |
| | |
| 4. Bireyleri şeffaflık, açıklanabilirlik ve telafi mekanizmaları aracılığıyla güçlendirin.
| |
| | |
| Yapay zekanın güvenilir ve herkes için faydalı olabilmesi için, düzenlemeler, mevzuatlar ve endüstri uygulamaları bireyleri güçlendirmelidir:
| |
| | |
| # Şeffaflık: Yapay zeka geliştiricileri ve uygulayıcıları, yapay zeka sistemlerinin girdileri ve işleyişi hakkında, gizlilik ve veri koruma, güvenlik, emniyet ve ticari sırları koruyarak, uygun bağlamda ve anlamlı bir şekilde şeffaflık sağlamalıdır.
| |
| # Açıklanabilirlik: Açıklanabilirlik, şeffaflığın bir yönü olup hesap verebilirlik ve güveni artırmanın bir yoludur. Bu, yapay zeka geliştiricilerinin ve uygulayıcılarının, yapay zeka sistemlerinin bireyleri etkileyen kararlar ve sonuçlar üzerindeki etkilerini anlamlı bir şekilde açıklamalarını gerektirir. Bunun yanında, bazı durumlarda açıklanabilirlik konusunda teknik kısıtlamalar da olabilir. Açıklanabilirlik ile güvenlik ve açıklanabilirlik ile doğruluk arasında denge sağlanması gibi durumlarda yapay zeka geliştiricileri belli konularda ödün vermek durumunda kalabilir. Bu durumlarda da geliştiriciler şeffaflık adına belgeleme yapmalıdır. Örneğin, doğruluğun açıklanabilirliğe tercih edildiği bir durumda, nasıl ve neden açıklanabilirlikten taviz verildiğini göstermek için ilgili tercihleri belgelemeleri gerekir.
| |
| # Kullanıcı Geri Bildirimi ve Telafi: Bireyler, yapay zeka tarafından yapılan bir kararı anlamadıklarında veya yapay zeka tarafından zarar gördüklerine inandıklarında, kullanıcı geri bildirimleri, soruşturmalar, şikayetler, daha fazla şeffaflık, kararı itiraz etme hakkı, insan gözden geçirmesi gerekliliği ve sonuç olarak düzeltme, ayrıca gerektiğinde ve uygun olduğunda yürütme yetkililerinin müdahalesi gibi açık seçenekler olmalıdır.
| |
| | |
| == 2. Gösterilebilir Kurumsal Sorumluluk ==
| |
| 5. Gösterilebilir kurumsal sorumluluğu yapay zeka düzenlemelerinin merkezi bir unsuru haline getirin.
| |
| | |
| Düzenlemeler, kuruluşların tüm yasal gereklilikleri ve standartları yerine getirebilmeleri için gerekli olan hesap verebilirlik çerçeveleri ve yönetim programlarını kullanmalarını kolaylaştırmalıdır. Bu, hesap verebilirliği sağlamak amacıyla yapılır. Geleneksel kurumsal uyum ve iş etiği alanlarında olduğu gibi—ve günümüzde veri, güvenlik ve dijital alanlarda olduğu gibi—hesap verebilirlik, yapay zeka yaşam döngüsünün tüm aşamalarına dahil edilmeli ve uygulanmalıdır.
| |
| | |
| Kuruluşlar, hesap verebilirliklerini içeriye (üst yönetim ve kurumsal yönetim kurullarına) ve dışarıya (hissedarlar, yatırımcılar, düzenleyiciler ve genel kamuoyuna) dönük olarak gösterebilmelidir. Sertifikalar, denetimler, davranış kuralları ve değerlendirmeler, hesap verebilirliği göstermede yardımcı araçlardır. Gerçekten de, bu hesap verebilirlik mekanizmaları, yapay zeka geliştiricileri ve kullanıcıları da dahil olmak üzere, dijital politika ve düzenlemelerde temel öneme sahiptir.
| |
| | |
| Bir yapay zeka düzenlemesi, açıkça gösterilebilir hesap verebilirliği temel bir unsuru olarak içermeli ve aynı zamanda sertifikasyon şemaları ve davranış kuralları gibi hesap verebilirliği kolaylaştıran ve gösteren ortak düzenleyici çerçevelerin geliştirilmesini ve kullanımını sağlamalıdır.
| |
| | |
| 6. Yapay zeka yönetiminde hesap verebilirlik uygulamalarının benimsenmesini teşvik edin.
| |
| | |
| Yasa yapıcılar ve düzenleyiciler, yapay zeka geliştiren ve kullanan kuruluşlar için temel hesap verebilirlik uygulamalarını zorunlu tutmalı, ayrıca hesap verebilirlik uygulamalarının benimsenmesini teşvik etmelidir. Paydaşlarla birlikte, yapay zeka hesap verebilirliğini oluşturma ve gösterme araçları geliştirilmelidir. Bu, kuruluşların iyi geliştirilmiş hesap verebilirlik çerçevelerini benimsemelerini, veri uygulamalarında güveni artırıcı bir unsur olarak görmelerini sağlamayı amaçlamaktadır.
| |
| | |
| Teşvikler şunları içerebilir:
| |
| | |
| * Hesap verebilir kuruluşlara yapay zeka modellerini geliştirme ve kullanma konusunda daha fazla özgürlük tanımak. | |
| * Sosyal faydalı araştırmalar için yapay zeka projelerinde daha geniş veri kullanımına izin vermek.
| |
| * Yapay zeka sistemleri satın alan tarafların, sorumlu yapay zeka standartlarına göre sertifikalandırılmış sistemleri temin etmelerini sağlamak.
| |
| * Kamu alım projeleri için hesap verebilir yapay zeka sertifikası almayı teşvik etmek.
| |
| | |
| 7. Zarara en yakın taraf odaklı olarak sorumluluğu dikkatle paylaştırın.
| |
| | |
| Yapay zeka ekosisteminde tüm aktörlerin hesap verebilirlik mekanizmalarını benimsemesi, daha iyi uyum ve sonuçlar sağlar. Ancak, sorumluluk konularında tartışmalar devam etmektedir. Prensip olarak, sorumluluk zarara en yakın tarafa verilmelidir, ancak bu uygulamada karmaşıktır. Sorumluluk, geliştiriciye, dağıtıcıya, son kullanıcılara veya bunların kombinasyonuna verilebilir.
| |
| | |
| Örneğin, bir geliştirici, ürününün yüksek riskli bir kullanımını sözleşme ile yasakladığında, kötüye kullanma riski, bu sözleşme şartlarını kasıtlı olarak ihlal eden kullanıcıya kaydırılmalıdır. Üçüncü tarafların yapay zeka modelleri veya yapay zeka destekli çözümler sağladığı senaryolarda, model geliştiricileri ve dağıtıcıları arasındaki hesap verebilirlik sözleşmelerde belirtilmelidir.
| |
| | |
| == 3. Akıllı Düzenleyici Gözetim ==
| |
| 8. Regülatörler arası koordinasyon ve işbirliği mekanizmaları oluşturun.
| |
| | |
| Yapay zeka farklı sektörlerde kullanıldığından, farklı düzenleyici otoriteler arasında işbirliği gereklidir. Yeni bir yapay zeka regülatörü oluşturmak yerine, mevcut regülatörlerin yapay zeka denetimine hazırlıklı olması sağlanmalı ve yüksek düzeyde politika koordinasyonu ve iş birliği teşvik edilmelidir. Merkezi bir hükümet koordinasyon organı, tüm sektörlerde geçerli yapay zeka politikaları belirleyip, düzenleyiciler arasında uyumu ve ortak eylemi kolaylaştırmalıdır. Bu yaklaşım, tutarlı düzenleyici uygulamalar geliştirir ve yeni yasaların mevcut olanlarla uyumlu hale getirilmesine yardımcı olur.
| |
| | |
| Bu yaklaşım hem kuruluşlar hem de düzenleyiciler için faydalı olacaktır. düzenleyici yaklaşımların yanı sıra bütüncül ve disiplinler arası politika ve rehberlik uzmanlaşmış düzenleyiciler ve endüstri tarafından zaman içinde uygulanması ve izlenmesi. Böyle bir yaklaşım aynı zamanda yeni yasa ve yönetmeliklerin mevcut yasa ve yönetmeliklerle uyumlu hale getirilmesine yardımcı olabilir.
| |
| | |
| 9. İş birliğine dayalı düzenleyici denetim oluşturun ve düzenleyici yeniliği sağlayın
| |
| | |
| Teknoloji gelişmeye devam ettikçe, düzenleyicilerin, düzenleyici tekniklerin ve araçların da gelişmesi gerekmektedir.
| |
| | |
| # Yetkinlik ve Kapasite Geliştirme: Regülatörler, yapay zekayı topluma ve ekonomiye faydalı şekilde kullanırken, bireylerin haklarını korumak için yetkinliklerini ve kapasitelerini artırmalıdır.
| |
| # Risk Tabanlı Yaklaşım: En yüksek riskleri oluşturan alanlara odaklanarak stratejik ve etkili düzenleme yapılmalıdır.
| |
| # İş Birliğine Dayalı Denetim: Regülatörler ve düzenlenen varlıklar arasında sürekli işbirliği ve bilgi paylaşımı gereklidir.
| |
| # Yenilikçi Düzenleyici Araçlar: Sandbox'lar ve politika prototipleme gibi araçlar kullanılmalıdır. Bu araçlar, yeni teknolojilerin yasal uyumluluğunu test etmek ve sorumlu yeniliği teşvik etmek için güvenli alanlar sağlar.
| |
| ## Regülasyon sandbox'ları, yenilikçi ürün ve hizmetlerin yasalara uygunluğunu gerçek dünya ortamlarında test etmek için önemli mekanizmalardır. Bu sandbox'lar, regülatör denetimi altında yasal keşif ve deneyim sağlar. Özellikle mevcut yasal gerekliliklerle çelişen veya uyumsuz görünen yeni teknolojilerin uygulanmasında karşılaşılan zorlukları ele alıp çözmeye yardımcı olabilirler
| |
| ## Politika prototipleme, yasaların yürürlüğe girmeden önce farklı yönetim modellerini keşfetmek ve geliştirmek için kamu ve özel sektör aktörlerini bir araya getiren pilot projelerdir. Erken aşama teknoloji şirketleri, hükümet, sanayi ve akademik uzmanlarla işbirliği içinde bu politika prototiplerini geliştirir ve uygular.
| |
| | |
| Bu yaklaşımlar, tutarlı düzenleyici uygulamalar geliştirir ve yeni yasaların mevcut olanlarla uyumlu hale getirilmesine yardımcı olur.
| |
| | |
| 10. Küresel Uyumluluğu Sağlamak
| |
| | |
| Yapay zeka teknolojisinin küresel doğası – verilerin eğitimi, araştırma ve geliştirme, bilişim altyapısı ve sınırları aşan uygulamalar – nedeniyle, hiçbir hükümet yapay zeka politikasını ve düzenlemesini tek başına tatmin edici bir şekilde ele alamaz. Uluslararası iş birliği, güvenilir ve hesap verebilir yapay zekanın faydalarından yararlanmayı ve yeni risklerin sürekli değerlendirilip azaltılmasını sağlar. Bu amaçla, hükümetler ve diğer paydaşların yapay zeka politikası konusunda işbirliği yapmasını sağlayacak özel bir uluslararası forum gereklidir.
| |
| | |
| Ayrıca, uluslararası işbirliği yapay zeka politikaları ve düzenlemelerinin uyumlu hale getirilmesini teşvik etmelidir. Küresel uyumluluk, sınır ötesi hizmetlerin sorumlu bir şekilde sunulmasını, erişimin genişletilmesini, uyum maliyetlerinin azaltılmasını, yasal kesinliğin artırılmasını ve bireylerin hak ve çıkarlarının tutarlı bir şekilde korunmasını sağlar. Farklı yargı bölgeleri kendi öncelikleri, yasal gelenekleri ve mevcut düzenlemeleri ile birlikte, yapay zeka politikası ve düzenlemesi konusunda ortak ilke ve yaklaşımlar etrafında birleşebilirler. Bu uyumluluğu, tanıma ve sertifikasyon mekanizmaları aracılığıyla kodlamaya yönelik adımlar atabilirler; örneğin, veri koruma ve güvenilir sınır ötesi veri akışları bağlamında Küresel Sınır Ötesi Gizlilik Kuralları (CBPR) sistemine katılım gibi. Yapay zeka uyumluluğuna yönelik uluslararası teşvik edici çabalar arasında G7 girişimi, OECD yapay zeka İlkeleri, Dijital Ekonomi Ortaklık Anlaşması (DEPA) ve Küresel yapay zeka Ortaklığı gibi girişimler bulunmaktadır.
| |
| | |
| === Biyografi ===
| |
| '''Burak Haylamaz,''' kişisel verilerin korunması ve platform regülasyonları alanlarında uzmanlaşmış, Kaliforniya eyaleti barosuna kayıtlı bir avukattır. Avrupa hukuku üzerine eğitimini tamamladıktan sonra, Stanford Üniversitesi'nde yüksek lisansını unutulma hakkı üzerine yazdığı tezle tamamlamıştır. Halihazırda, Amerikan bir hukuk firmasında çalışmaktadır. Ayrıca, Tech Policy Press ve Verfassungblog gibi bloglarda Türkiye'deki platform regülasyonlarıyla ilgili gelişmeleri yazmaktadır.
| |
| | |
| = Makale III: =
| |
| | |
| == İslam Hukukuna Göre Yapay Zekanın Hukuki Kişiliği, Sorumluluğu ve Etik Yönü ==
| |
| Prof. Dr. Abdullah Demir
| |
| | |
| == Giriş ==
| |
| Yapay zeka hayatın hemen her alanında hızla yer almaya devam ediyor. Sürücüsü olmadan hareket eden arabalar, hayatın hemen her alanında yer alan robotlar, dijital dünyanın temel taşını oluşturan programlar yapay zeka çağının başladığını gösteriyor. Bu gelişmeyi bazıları insanlığın sonu gibi değerlendirirken, kimileri de yepyeni fırsatlar olarak görmektedir. Karşımızda din, felsefe, bilim ve sanat tarafından tanımlanıp düzenlenmesi gereken kocaman bir yapay zeka dünyası bulunuyor. Söz konusu alanlarda çalışanlar yapay zekayı anlamak ve düzenlemek için gayret gösteriyorlar. Diğer taraftan hukukçular ise hayatın hızına yetişemeseler de yapay zekanın hukuki altyapısını oluşturmak için çalışmaktadır. Benzer şekilde İslam hukukçuları da yapay zekanın İslam hukukundaki yerini belirlemek için çaba harcamaktadır. Bu çalışmada yapay zekanın hukuki statüsünü belirlemede fıkıh usulünün kullanılması ve İslam hukukuna göre yapay zekanın hukuki kişiliği ve sorumluluğu konuları ele alınacaktır.
| |
| | |
| == Yapay Zeka Nedir? ==
| |
| Yapay zeka, insana benzer şekilde öğrenme, yorumlama, problem çözme, algılama ve anlama yeteneklerine sahip olan bilgisayar sistemlerine verilen isimdir. Yapay zeka öğrenme, yorumlama, algılama ve anlama gibi faaliyetleri insana göre daha hızlı yapabilmektedir. Bu yeni teknoloji, sanayi devrimi gibi insanlık tarihinde yeni bir dönemin başlangıcı olacak gibi gözükmektedir. 20. Yüzyılın ortalarında ortaya çıkan bu teknoloji bilgisayarların insan beynini taklit edebileceği düşüncesine odaklanmıştır. 1950’lerde Alan Turing makinelerin insan gibi düşünebilme yeteneğini sorgulayan ünlü Turing Testini geliştirdi. Bu teste göre bir robot ve bir insanla konuşan bir kişi bunların hangisinin robot ve hangisinin insan olduğunu ayırt edemiyorsa robot testte başarılı olmuş sayılmaktadır. (Turing, 1950; Russell & Norvig, 2022)
| |
| | |
| Yapay zeka üç ana bölümde ele alınmaktadır. Birincisi, sınırlı bir alanda çalışan ve diğer alanlarda otonom çözümler üretemeyen dar yapay zekalardır. İkincisi, insan gibi otonom çözümler üretebilen genel yapay zekalardır. Üçüncüsü, insanı aşan zeka ve düşünme kabiliyetine sahip super yapay zekalardır. (Nilsson, 2010; Metzinger, 2021). Günümüzde geliştirilen yapay zeka teknolojileri sınırlı alanda faaliyet gösteren yapay zekalardır. Bunun yanında insan gibi düşünen ve insanın yaptıklarını yapabilen yapay zekalar da geliştirilmeye çalışılmaktadır.
| |
| | |
| İnsan beyninin taklit edilmesi ile geliştirilen yapay zeka, insan beynine göre çok daha anlaşılır ve basittir. Yapay zekanın materyali ve programları insan tarafından yapılmakta olup bunların özellikleri ve sınırları bilinmektedir. İnsan beyninin ise ne maddi ne de manevi taraflarının özellikleri ve sınırları tam anlamıyla bilinmemektedir. İnsan beyni yapay zekalarla kıyaslanamayacak derecede gelişmiş bir sistemdir. Yapay zeka veri toplamak, kaydetmek ve bunları işleyerek düşünce faaliyetinde bulunmaktadır. İnsan ise tümdengelim, tümevarım ve temsil olmak üzere üç temel yöntem kullanarak düşünmektedir. Düşünce insanın dimağında tahayyül (hayal etme), tasavvur (hayali somutlaştırma), taakkul (düşünme), tasdik (sonuç), iz’an (vicdani onay), iltizam (gerektirme) ve itikad (inanç) aşamalarında gerçekleşmektedir.
| |
| | |
| Beden, akıl ve ruhtan oluşan insanın söz konusu bölümlerinin her biri son derece kompleks ve mükemmel yapılardır. Yapay zeka insan beyninin ve bedeninin taklit edilmesi ile geliştirilen bir teknolojidir. Buna karşılık insan ruhunun bir bölümünü oluşturan duygular yapay zekada bulunmamaktadır. Yapay zeka teknolojisi ne kadar hızlı gelişse de en güzel kıvamda yaratılan insanın yanında henüz emekleme döneminde olduğu söylenebilir. (Tin 94/4)
| |
| | |
| Yapay zeka şimdilik insanın basit bir taklidi olsa da yakın bir gelecekte insana yakın nitelikte ve hatta bazı yönlerden insanı aşan özelliklerde robotlar geliştirileceği anlaşılmaktadır. Transhumanizm denilen bu akımın olumlu ya da olumsuz bakış açısıyla değerlendirilmesi mümkündür. Allah Teala insanı yaratacağını söylediğinde meleklerin yeryüzünü bozacak ve kan dökecek bir varlık mı yaratacağını sormaları, olumsuz bakış açısını ifade etmektedir. Buna karşılık Allah Teala insanı meleklerin bilmediği özelliklerle vasıflandırması ve kan döküp fesat çıkarmanın dışında güzel icraatlar yapacak niteliklerle yaratması, olumlu bakış açısını yansıtmaktadır. (Bakara 2/205 vd) Yapay zeka teknolojisine bu açılardan bakıldığında varlığı bozacak ve kan akıtacak gelişmeler yaşanabileceği gibi varlığı dizayn edecek, barış ve huzuru sağlayacak teknolojilerin geliştirilmesi de mümkündür. Dolayısıyla insanlar arasında asırlar boyu yaşanan iyi kötü mücadelesinin yapay zeka teknolojilerinde de süreceği anlaşılmaktadır.
| |
| | |
| == Yapay Zekanın Hukuki Statüsünü Belirlemede Fıkıh Usulünün Kullanılması ==
| |
| Yapay zekanın hukuki durumunun belirlenmesinde İslam hukukunun kıyas, icma, istihsan, maslahat gibi kaynakları kullanılabilir. Bu yöntemlerden kıyas yoluyla yapay zekanın hukuki statüsü belirlenmeye çalışılmaktadır. Bu şekilde yapay zeka köleye, hayvana ya da tüzel kişiliklere benzetilerek hukuki sonuçlar çıkarılmaktadır. (Al-Qaradawi, 2003; Ramadan, 2009).
| |
| | |
| İstihsan, zaruret ve maslahat gibi prensipler de yapay zekanın hukuki statüsünü belirlemede kullanılabilecek tali kaynaklardır. Bu prensipler, hukuki düzenlemelerin adalet ve toplumsal fayda gözetilerek yapılmasını sağlar (Al-Sadr, 1984; Kamali, 2008). İslam hukukunun tali kaynaklarından olan istihsan, zaruret, maslahat veya örf-adet sebebi açık kıyası bırakıp kapalı kıyası ve genel hükmü bırakıp özel hükmü tercih etmektir. Bunu yaparken adalet ve hakkaniyet ilkeleri göz önünde bulundurulur. Hukuk kurallarının uygulanmasından doğan bazı adaletsizlikler ve sertlikler istihsan yoluyla giderilmektedir. Bir kısım maslahatlar sebebi ile ya da örf-adetler sebebi ile veya icma ile genel kurallara istisnalar getirilerek yapay zekanın hukuki durumu belirlenebilir. Sözgelimi din, can, mal, akıl, nesil ve özgürlüğün korunması zaruri maslahatlardandır. Bu maslahatları korumak için hukuk kurallarına da istisnai düzenlemeler yapılabilir. Buna göre söz konusu maslahatları korumak için yapay zekaya hukuki kişilik tanınabilir ve sorumluluk yüklenebilir. Benzer şekilde haciyyat denilen ihtiyaçlar ve tahsiniyyat denilen üçüncü derecede ihtiyaçlar için de istihsan yoluyla yapay zeka konusunda hukuki düzenlemeler yapılabilir.
| |
| | |
| İslam hukukunun tali kaynaklarından Sedd-i Zerai de yapay zekanın hukuki statüsünü belirlemede kullanılabilir. Kötülüğe götüren vasıtaları engellemek anlamına gelen Sedd-i Zerai, kavram olarak mübah olan bir şeyi dine ve hukuka aykırı şeylere vesile olması sebebi ile yasaklamaktır. (Shirazi, 2015; Al-Ghazali, 1993) Yapay zeka kullanılarak bir kısım suçlar işlenmesine sebep olunuyor ya da bir kısım zararlara yol açılıyorsa, hukuken bazı sınırlamalar getirilebilir.
| |
| | |
| İslam hukukunun tali kaynaklarından külli kaideler de yapay zeka ile ilgili hukuki düzenlemeler yapmak için kullanılabilir. “Zarar izale olunur”, “Beraat-i zimmet asıldır”, “Şekk ile yakin zail olmaz”, “Zaruretler memnu olan şeyleri mübah kılar” gibi çok sayıda külli kaide yapay zekanın hukuki durumunu belirlemek için kullanılabilir. (Demir, Külli Kaideler) Külli kaideler aynı zamanda içtihadi meselelerde kullanılan genel hukuk prensipleridir. Bu sebeple hukuki çözüm gerektiren yapay zeka gibi zor ve yeni meselelerde külli kaidelerin sunduğu geniş imkanlardan faydalanmak gerekir. Sayıları binleri bulan külli kaideler yapay zeka problemlerini çözmekte son derece faydalı olacaktır.
| |
| | |
| == Yapay Zekanın Hukuki Kişiliği ve Sorumluluğu ==
| |
| İslam hukukunda kişilik zimmet kavramı ile ifade edilir. Kişilik, haklara ve borçlara ehil olma özelliği kazandırır. Kişiliğe sahip olan varlık hukuki ehliyet kazanır, haklarını kullanabilir ve borç altına girebilir. Kişiler gerçek kişi ya da tüzel kişi olabilir.
| |
| | |
| Yapay zekanın kişiliği konusunda farklı görüşler vardır. Bazıları yapay zekanın kişiliğe sahip olmadığı, sahibinin kullandığı bir alet gibi olduğu görüşündedir. (Ibn Rushd, 1190) Bunun yanında yapay zekanın hayvan, köle, tüzel ya da gerçek kişi olduğunu düşünenler de vardır. (Al-Karkhi, 2010; Al-Sarakhsi, 1986)
| |
| | |
| Yapay zekanın kişiliğinin olmadığı görüşüne göre yapay zekanın hakları ve borçları sahibine aittir. Yine yapay zekanın işlediği suçlardan dolayı da sahibi sorumlu olmalıdır. Yapay zekanın hayvan statüsünde olduğunu kabul eden görüşe göre yapay zekanın hukuki ve cezai sorumluluğu yoktur. Sorumluluk yapay zekanın sahibine aittir.
| |
| | |
| Yapay zekanın köle statüsünde kabul edilebileceği görüşü de ilginçtir. Kölelik hukuken kaldırılmış ve tarihte kalmış olmasına rağmen, yapay zeka ile yeniden gündeme gelmektedir. İslam hukukuna göre kölenin hukuki ehliyeti yoktur, hakları ve borçları malikine aittir. Ancak köle evlenme, boşanma gibi aile hukuku konularında tam ehliyetlidir. Bununla birlikte sahibine mali bir külfet getirmemesi de gerekmektedir.
| |
| | |
| Diğer bir görüş yapay zekanın hukuken vekil veya resül yani elçi kabul edilmesidir. Risalet, vekaletten daha dar bir kavram olup sadece getir götür işlemlerini yapma yetkisi verir. Bu durumda resul yani elçinin herhangi bir şahsi sorumluluğu bulunmamakta, yaptığı işlemden elçiyi gönderen sorumlu olmaktadır. Vekalette ise vekilin sorumluluğu daha geniş olup müvekkille yapılan vekalet sözleşmesine göre belirlenmektedir. Vekalet sözleşmesindeki sınırları aşan vekilin şahsi sorumluluğu ortaya çıkmaktadır. Buna göre sahip olduğu niteliklere göre yapay zekaya risalet ya da vekalet akdinin hükümleri uygulanabilir.
| |
| | |
| Yapay zekanın tüzel kişiliğe sahip olduğu görüşü en tutarlı gözüken görüşlerdendir. İslam hukukunda vakıf, devlet, şirket gibi tüzel kişilikler bulunmaktadır. Bu kişilikler gerçek kişiler gibi kendi başlarına hak ve borç altına girebilmektedir. Yapay zeka tüzel kişiler gibi kabul edilirse hukuki sorumluluğa sahip olacaktır.
| |
| | |
| Görüldüğü üzere farklı yapay zeka türleri olduğu gibi yapay zekanın hukuki kişiliği konusunda da farklı görüşler bulunmaktadır. Bu açıdan yapay zekanın türüne ve niteliklerine göre hangi hukuki çözümlerin uygulanacağı belirlenmelidir. Sınırları ve kuralları belirlenmiş basit bir yapay zekanın hukuki kişiliğinin olmadığı kabul edilebilir. Böyle yapay zekaları hukuka konu olan bir eşya kabul ederek, doğacak hak ve borçların yapay zekanın sahibine ait olması uygun bir hukuki çözüm olarak gözükmektedir.
| |
| | |
| Kendi başına karar verebilen gelişmiş yapay zekaların hukuki durumları ise sahip oldukları özelliklere göre belirlenebilir. Akıllı ve ergin bir insana benzer şekilde düşünebilen ve bağımsız karar verebilen bir yapay zekanın insanlar veya cinler gibi hukuki kişilik ve sorumluluk sahibi bir varlık kabul edilmesi mümkündür. Hukuk çevrelerinde “dijital kişilik” olarak nitelendirilmeye başlanan yapay zeka, yeni bir hukuk süjesinin ve hukuk dalının doğmaya başladığını bize göstermektedir. Buna göre insan, vakıf, şirket, devlet gibi yeni bir hukuki kişilik olan yapay zekaya uygulanacak hukuk kurallarını belirlemek için yapay zeka hukuku bilim dalı oluşturulacaktır. Yapay zeka hukuku, hukukun bütün dallarından faydalanan karma bir hukuk dalıdır.
| |
| | |
| Yeni bir hukuki kişilik olan yapay zekalar, diğer gerçek ve tüzel kişiler gibi hukukun verdiği haklara ve düzenlediği sınırlamalara kendi statüsü çerçevesinde tabidir. Fıkhın helal, haram, mübah gibi hükümleri yapay zekaya da uyarlanarak uygulanabilir. Buna göre otonom bir yapay zeka hukuki kişilik sahibi olduğu gibi, kural olarak bir kişinin sahip olduğu haklara sahip ve borçlara ehil olabildiği gibi cezai hükümlerle de cezalandırılabilir. Tabii ki söz konusu hukuk kuralları yapay zekalara uyarlanarak uygulanmalıdır.
| |
| | |
| İslam hukukuna göre bir kişinin hukuken sorumlu olabilmesi için ehliyet sahibi olması gerektir. Ehliyet vücup ehliyeti ve eda ehliyeti olarak iki kısma ayrılır. Vücup ehliyeti modern hukuktaki hak ehliyetine, eda ehliyeti de fiil ehliyetine karşılık gelmektedir. Eda ehliyeti tam eda ehliyeti ve eksik eda ehliyeti olarak ikiye ayrılmaktadır. Tam eda ehliyetinin unsurları akıl, ergenlik ve reşid olmaktır. Bu üç şart insanın üç temel özelliğinin tam olmasını ifade etmektedir. Yani akıl yönü tam olan, beden olarak ergenliğe ulaşmış olan ve mali konularda yetkinliğe ulaşarak rüşt şartını sağlamış olan insan tam eda ehliyetine sahip kabul edilmektedir. Bu şartlardan en az birisi eksik olan insan ise eksik eda ehliyetine sahip yani kısıtlı olmaktadır.
| |
| | |
| Yapay zekanın sorumluluğunu tespit etmek için tam eda ehliyetinin bu üç unsuru yapay zekaya tam olmasa da kısmen uyarlanabilir. Akıl ve erginlik açısından insana benzer yeteneklerle programlanan bir yapay zekanın ehliyet sahibi olması mümkündür. Bunun için yapay zekaya yüklenen kabiliyetlerin ve otonom karar verme yeteneğinin belirlenmesi gerekir.
| |
| | |
| == Yapay Zeka Etiği ==
| |
| Yaşanan baş döndürücü hızdaki gelişmeler karşısında yapay zeka etiği kavramı gündeme gelmiştir. Kimileri robotların etiği olamayacağını ileri sürerken, kimileri de etik değerlere sahip insan benzeri robotlar üretmeye çalışmaktadır. Yapay zekanın hukuki altyapısı ile ilgili tartışmaların benzeri yapay zeka etiğinde de yaşanmaktadır. Yapay zekanın hukuki altyapısı ve çerçevesi olması gerektiği gibi etik değerleri de bulunmalıdır.
| |
| | |
| Yapay zekanın bağlı olması gereken etik kurallar en genel çerçevede evrensel ahlak ilkeleri olmalıdır. Bu ilkeler dinlerin, kültürlerin ve örf adetlerin ortak değerlerinden oluşmalı ve bütün dünyada geçerli olmalıdır.
| |
| | |
| Yapay zeka etiği kavramına göre yapay zeka sistemlerinin insan onurunu koruması ve insana zarar vermemesi gerekmektedir. Bireysel haklar, mahremiyet, ayrımcılık yapmama, manipülasyon yapmama gibi ilkeler yapay zekanın uyması gereken etik değerlerdir. (Yeşilkaya, 951)
| |
| | |
| Yapay zeka etiği ile ilgili ilkeleri belirlemek üzere son yıllarda bazı düzenlemeler hazırlanmıştır. Avrupa Parlamentosu 2016 tarihinde Robotiğe İlişkin Medeni Hukuk Kuralları Önerisini hazırlamıştır. Bu kurallar yararlanma, zararsızlık, özerklik, adalet, temel haklar, önlem, kapsayıcılık, hesap verebilirlik, emniyet, gizlilik, yararın maksimizasyonu ve zararın minimizasyonu olmak üzere on iki ilkeden oluşmaktadır.
| |
| | |
| Avrupa Komisyonu 8 Nisan 2019 tarihinde Güvenilir Yapay Zeka Sistemleri İçin Etik İlkeler Rehberi’ni yayınlamıştır. Yine UNESCO’ya üye ülkeler 24 Kasım 2021 tarihinde yapay zeka etiği ile ilgili ilk küresel anlaşmayı imzalamışlardır.
| |
| | |
| Yapay zeka sistemleri ile ilgili ilk etik düzenleme ünlü bilim kurgu yazarı Isaac Asimov tarafından geliştirilen üç robot yasasıdır. Bu yasaya daha sonra robotiğin sıfırıncı yasası adıyla dördüncü bir yasa da eklenmiştir. Bu dört yasa şunlardan oluşmaktadır: (1.) Bir robot bir insana zarar veremez veya hareketsiz kalarak bir insanın zarar görmesine izin veremez. (2.) Bir robot, birinci yasayla çelişmediği sürece, insanlar tarafından verilen emirlere uymak zorundadır. (3.) Bir robot, birinci veya ikinci yasa ile çelişmediği sürece kendi varlığını korumalıdır. (4.) Bir robot insanlığa zarar veremez veya hareketsiz kalarak insanlığın zarar görmesine izin veremez.
| |
| | |
| 2009 yılında Murphy ve Woods tarafından hazırlanan robotiğin alternatif üç kanunu ise şunlardır: 1.) Bir insan, en yüksek yasal ve profesyonel güvenlik ve etik standartlarını karşılayan insan-robot çalışma sistemi olmadan bir robotu konuşlandıramaz. (2.) Bir robot, bir insana rollerine uygun şekilde yanıt vermelidir. (3.) Bir robot, birinci ve ikinci yasalara uygun olarak kontrolün diğer ajanlara sorunsuz transferini sağladığı sürece, kendi varlığını korumak için yeterli konumlanmış özerkliğe sahip olmalıdır.
| |
| | |
| Yapay zeka etiği ile ilgili çok ayrıntılı bir düzenlemeyi yapan Stahl, Ethical Issues of AI isimli çalışmasında yapay zeka etiği ile ile ilgili konuları 39 kategoride ele almıştır: (Stahl, 35–53.)
| |
| | |
| # İnovasyon maliyeti,
| |
| # Fiziksel bütünlüğe zarar,
| |
| # Kamu hizmetlerine erişim eksikliği,
| |
| # Güven eksikliği,
| |
| # Yapay zekânın “Uyanışı”
| |
| # Güvenlik sorunları,
| |
| # Kaliteli veri eksikliği,
| |
| # İşlerin ortadan kalkması,
| |
| # Güç asimetrileri,
| |
| # Sağlık üzerinde olumsuz etki,
| |
| # Bütünlük sorunları,
| |
| # Verilerin doğruluğu eksikliği,
| |
| # Gizlilik eksikliği,
| |
| # Şeffaflık eksikliği,
| |
| # Askeri kullanım potansiyeli,
| |
| # Bilgilendirilmiş onay eksikliği,
| |
| # Önyargı ve ayrımcılık,
| |
| # Adaletsizlik,
| |
| # Eşitsiz güç ilişkileri,
| |
| # Kişisel verilerin kötüye kullanılması,
| |
| # Adalet sistemi üzerinde olumsuz etki,
| |
| # Demokrasi üzerinde olumsuz etki,
| |
| # Suç ve kötü niyetli kullanım potansiyeli,
| |
| # Özgürlük ve bireysel özerklik kaybı,
| |
| # Tartışmalı veri sahipliği,
| |
| # İnsan temasının azaltılması,
| |
| # Veri ve sistemlerin kontrol ve kullanım sorunları,
| |
| # Tahmine dayalı önerilerin doğruluğunun olmaması,
| |
| # Bireysel olmayan önerilerin doğruluğunun olmaması,
| |
| # Ekonomik gücün yoğunlaşması,
| |
| # Tedarik zincirinde temel insan haklarının ihlali,
| |
| # Son kullanıcıların temel insan haklarının ihlali,
| |
| # İstenmeyen, öngörülemeyen olumsuz etkiler,
| |
| # “Yanlış” sorunların önceliklendirilmesi,
| |
| # Hassas gruplar üzerinde olumsuz etki,
| |
| # Sorumluluk ve sorumluluk eksikliği,
| |
| # Çevre üzerinde olumsuz etki,
| |
| # Karar vermede insan faktörünün kaybı,
| |
| # Bilgiye erişim ve bilgi özgürlüğü eksikliği.
| |
| | |
| == Sonuç ==
| |
| Yapay zeka geleceğin dünyasında insan benzeri bir varlık olarak yerini alacak gibi gözükmektedir. Yapay zekanın gelecekteki önemli rolü konusunda insanlar hemfikir olsa da bunun insanlığa ne kazandırıp ne kaybettireceği konusunda karamsar ve iyimser görüşler bulunmaktadır. Her varlık gibi yapay zekanın da medeniyete ve insanlığa olumlu ve olumsuz etkileri olacaktır. Bu etkide yine insanların belirleyici olacağı anlaşılmaktadır.
| |
| | |
| Yapay zekanın hukuki kişiliği ve sorumluluğu konusunda ileri sürülen fikirler içerisinde en akla yatkın olanı yapay zekanın dijital kişilik kabul edilmesidir. Bu şekilde yeni bir kişilik olarak kabul edilen yapay zekanın sorumlulukları da sahip olduğu yeteneklere göre belirlenecektir.
| |
| | |
| Yapay zekanın etik değerlere sahip olup olamayacağı da tartışmalıdır. Etiğin duygusal tarafları ve yapay zekanın duygularının olmaması yapay zeka etiğinin olamayacağı düşüncesini doğurmaktadır. Buna karşılık etik ilkeleri yapay zekaya öğreterek onun da etik değerlere sahip olabileceği düşünülmektedir. Bu anlamda hangi etik ilkelerin yapay zekalara yükleneceği belirlenmeye çalışılmaktadır.
| |
| | |
| == Kaynaklar ==
| |
| Ahmed, S. (2020). Artificial intelligence and Islamic law: An overview. Journal of Islamic Law Studies, 27(1), 45-63.
| |
| | |
| Bal, S. Y. & Sarıkaya, B. (2022). Kelami açıdan insan fıtratı ve bilinci bağlamında yapay zekâ ve transhümanizm, Mavi Atlas, 10(2), 404-418.
| |
| | |
| Bediüzzaman Said Nursi, İşaratü’l-İcaz.
| |
| | |
| Demir, Abdullah. “Külli Kaideler Ekolü”. Erzincan Binali Yıldırım Üniversitesi Hukuk Fakültesi Dergisi XI, sy. 1-2 (Haziran 2007): 129-48.
| |
| | |
| Demir, Abdullah, Mufassal Türk Hukuk Tarihi, Astana Yayınları, Ankara 2018.
| |
| | |
| Ezieddin Elmahjub, Artificial Intelligence (AI) in Islamic Ethics: Towards Pluralist Ethical Benchmarking for AI, Philosophy & Technology (2023) 36:73.
| |
| | |
| Görgülü, Ülfet-Kesgin, Sena. “Yapay Zekâ Robotlara Ahlâki ve Hukuki Statü Tanınması Problematiği -İslam Ahlâkı ve Hukuku Açısından Bir Değerlendirme”. Recep Tayyip Erdoğan Üniversitesi İlahiyat Fakültesi Dergisi 20 (2021), 37-65.
| |
| | |
| Khallaf, A. (2021). The ethical implications of artificial intelligence in Islamic jurisprudence. Islamic Studies Review, 14(3), 321-335.
| |
| | |
| Miszairi Sitiris, Saheed Abdullahi Busari, The Legal Capacity (Al-Ahliyyah) Of Artificial Intelligence From An Islamic Jurisprudential Perspective, Malaysian Journal of Syariah and Law, Vol. 12, No. 1, pp. 31-42.
| |
| | |
| Muhammad Khaeruddin Hamsin, Rizaldy Anggriawan, Farisma Jiatrahman, Unveiling Ethical Implications: AI Robot Accountability in Islamic Context, Jurnal Media Hukum, 30(2): 117-135.
| |
| | |
| Muhammed Latif Altun, Yapay Zekâ Üzerine Fikhî Bir Analiz, Dicle İlahiyat Dergisi, CİLT: 26, SAYI: 2023/2, SS. 227-249.
| |
| | |
| Nur Adlin Hanisah binti Shahul Ikram, Mohd Yazid bin Zul Kepli, Establishing Legal Rights And Liabilities For Artificial Intelligence, IIUM Law Journal Vol. 26 No. 1, 2018.
| |
| | |
| Shabana Kausar, Ali Raza Leghari and Abdul Salam Soomro, Analysis of the Islamic Law and its Compatibility with Artificial Intelligence as an Emerging Challenge of the Modern World, Annals of Human and Social Sciences (AHSS) January-March,2024 Vol 5, Issue 1.
| |
| | |
| Simon Chesterman, Artificial Intelligence and The Limits of Legal Personality, ICLQ International and Comparative Law Quarterly vol 69, October 2020 pp 819–844.
| |
| | |
| Stahl, Bernd Carsten. “Ethical Issues of AI”, Artificial Intelligence for a Better Future, (2021), 35-53.
| |
| | |
| Suud Sarim Karimullah, The Application of Artificial Intelligence in Islamic Law Discovery, Mutawasith: Jurnal Hukum Islam Vol. 6. No. 2 (2023) 109-121.
| |
| | |
| Turing, A. M. (1950). Computing machinery and intelligence. Mind, 49(236), 433-460. <nowiki>https://doi.org/10.1093/mind/LIX.236.433</nowiki>
| |
| | |
| Yeşilkaya, Nazan, Yapay Zekâya Dair Etik Sorunlar, Şarkiyat İlmi Araştırmalar Dergisi Journal Of Oriental Scientific Research (Josr Cilt/Volume: 14, Sayı/Issue: 3 (Aralık/December 2022).
| |
| | |
| === Biyografi ===
| |
| '''Abdullah Demir,''' 1970 yılında Havza’nın Aslan- çayır Köyü’nde doğdu. Marmara Üniversitesi Hu- kuk Fakültesi (1995) mezunu olan yazar aynı üniversitede “Tophane Mahkemesi 7 Numaralı Şer’iye Sicil Defteri’nin İncelenmesi” isimli yüksek lisans teziyle bilim uzmanı (1998), “Ebussuud Efendi’nin Osmanlı Hukukundaki Yeri” adlı çalışmasıyla doktor oldu (2004). Askerliğini Kara Harp Okulu’nda hukuk öğretim elemanı olarak tamamladı. Evli ve iki çocuğu olan yazar, M.Ü. Hukuk Fakültesi’nde (1997-2009), Dicle Üniversitesi Hukuk Fakültesi’nde (2009-2011) ve Zirve Üniversitesi Hukuk Fakültesi’nde (2011-2016) yılları arasında Hukuk Tarihi öğretim üyesi olarak çalıştı. İslam ve Osmanlı hukuku hakkında çok sayıda kitapları ve makaleleri bulunmaktadır.
| |
| | |
| = Makale IV: =
| |
| | |
| == Veriye Dayalı Bir Gelecek: Bilginin Yapay Zeka Üzerindeki Etkisini Keşfetmek ==
| |
| Hasan Yıldız
| |
| | |
| == Giriş ==
| |
| Teknolojinin hakim olduğu bir çağda Yapay Zeka (AI), kişisel iletişimden profesyonel otomasyona kadar hayatımızın neredeyse her alanında dönüştürücü bir güç olarak ortaya çıktı. Ancak yapay zekayı yönlendiren karmaşık algoritmaların altında bir olgu yatıyor: Veri (data). Bu makale, verinin yapay zekayı güçlendirmedeki kritik rolünü araştırmakta, mevcut teknolojiler üzerindeki etkisini ve dijitalleşen dünyadaki sorumluluklarımızı incelemektedir. Moravec Paradoksu olarak bilinen yapay zekanın ilgi çekici bir yönü, biz insanların karmaşık bulduğu görevlerin makineler için basit olabileceğini ve bizim için sıradan olan görevlerin makineler için şaşırtıcı derecede zorlayıcı olabileceğini göstermektedir. Bu paradoks, yapay zekanın bilgiyi insanlardan farklı bir şekilde işlemesinin benzersiz yollarını vurgulamakta ve bu sistemleri eğitmek için çeşitli ve kapsamlı verilerin neden çok önemli olduğunu vurgulamaktadır. Bu ilişkiyi anlayarak, sadece yapay zekanın nasıl işlediğini değil, aynı zamanda toplumun geneline fayda sağlamak için ilerlemesini nasıl yönlendirebileceğimizi de kavrayabiliriz.
| |
| | |
| == Yapay Zekanın Kısa Tarihi ==
| |
| Yapay Zekanın kökleri, insan zekasını taklit eden makine fikrinin bilim kurgudan bilimsel bir çabaya dönüştüğü 20. yüzyılın ortalarına kadar uzanmaktadır. 1950 yılında İngiliz matematikçi Alan Turing, Turing Testi’ni ortaya atarak bir makinenin bir insandan ayırt edilemeyecek kadar zeki davranışlar sergileyebilmesi için bir ölçüt önermiş ve bu ölçüt yapay zeka felsefesinin temel taşlarından biri olmaya devam etmiştir.
| |
| | |
| 1950’lerde, yapay zekanın potansiyeli hakkında oluşan ilk heyecan dalgası bu alana önemli yatırımların yapılmasına yol açtı. Ancak bu heyecan, öncelikle yeterli veri ve hesaplama gücü eksikliğiyle ilgili önemli zorluklar nedeniyle kısa sürede gerçeklikle yüzleşti ve “Yapay Zeka Kışı” olarak bilinen dönemi getirdi.
| |
| | |
| 1980’lerde sistemleri birtakım kurallarla programlamak yerine insan beyninden esinlenen sinir ağları gibi modeller kullanma fikri ön plana çıktı. Bu sayede bu sinir ağlarının veriler üzerinden eğitilmesi bu dönemde yapay zeka alanında yeni bir canlanma sağladı. Ancak 1990’ların sonunda ve 2000’lerin başında internetin devasa büyümesi ve özellikle grafik işlemciler (GPU’lar) aracılığıyla hesaplama gücünde gelişmeler yaşanmış olsa da bunlar yapay zekayı geliştirme amacıyla kullanılabileceği fikri henüz oluşmamıştı.
| |
| | |
| 2010’larda, yapay zeka modellerinin eğitimi ve değerlendirilmesi için bir ölçüt haline gelen büyük bir etiketlenmiş görsel veri seti olan ImageNet tarafından büyük ölçüde kolaylaştırılan derin öğrenme tekniklerinin tanıtılması ile yapay zeka için önemli bir an gelmiş oldu. Bu dönem, yapay zeka yeteneklerinde önemli bir sıçramaya işaret ederek ses tanıma, otonom araçlar ve daha birçok alanda modern yapay zeka uygulamalarının başlangıcı oldu.
| |
| | |
| Yapay zekadaki en son önemli ilerleme, daha karmaşık veri işleme modellerini mümkün kılarak yapay zekada devrim oluşturan ‘Transformer’ modellerinin geliştirilmesi olmuştur. Bu modeller, tutarlı ve bağlamsal olarak alakalı metinler oluşturmak için büyük miktarda metin verisinden yararlanan modern büyük dil modellerinin (LLM’ler) temelini oluşturmaktadır. Transformer tabanlı mimarilere bu geçiş, yapay zeka inovasyonunu yönlendirmede hem veri miktarının hem de kalitesinin önemini daha da arttırmaktadır.
| |
| | |
| == Yapay Zekanın Mevcut Durumu: Büyük Dil Modelleri (LLM’ler) ==
| |
| Günümüzün yapay zeka dünyasına çeşitli alanlardaki etkileyici gelişmeler hakimdir, ancak belki de hiçbiri Büyük Dil Modellerinin (LLM’ler) geliştirilmesinden daha etkili değildir. OpenAI tarafından geliştirilen GPT-3 (Generative Pre-trained Transformer) gibi bu sofistike modeller, makinelerin metinleri insanlar gibi anlamasında ve üretmesinde önemli bir sıçramayı temsil ediyor.
| |
| | |
| GPT-3, 175 milyar parametre veya nöron ile 2020 yılında şimdiye kadar oluşturulmuş en büyük modellerden biriydi. OpenAI, böyle bir modeli eğitmek için kitaplardan (67 milyar sembol), web sitelerinden (410 milyar sembol), Wikipedia’dan (3 milyar sembol) ve Reddit (19 milyar sembol) gibi diğer metin kaynaklarından elde edilen ve toplamda yaklaşık 500 milyar sembol içeren yüzlerce gigabaytlık metin verisinden oluşan bir veri seti kullandı. Burada sayılan ‘sembol’lerin kelimelere olan karşılığı değişebilir, ancak yaklaşık 1,5 sembolün bir kelimeye eşdeğer olduğu söylenebilir. Bu devasa veri seti, GPT-3’ün daha önce daha basit yapay zeka sistemlerinin erişemeyeceği ince dil nüanslarını yakalamasına olanak tanır.
| |
| | |
| LLM’ler eğitim sürecinde çok fazla veri kullanılır. Bu modeller sadece veri hacmine değil, aynı zamanda veri setinde bulunan bilgilerin çeşitliliğine ve kalitesine de bağlıdır. Bu çeşitlilik, önyargıları azaltmak ve çıktılarının farklı senaryolar ve doğal diller arasında güvenilirliğini ve uygulanabilirliğini artırmak için çok önemlidir.
| |
| | |
| LLM’lerin etkileri günümüzde çok görünür durumdadır. LLM’ler yalnızca sohbet robotlarını ve sanal asistanları geliştirerek sektörleri dönüştürmekle kalmayıp aynı zamanda çeviri, içerik oluşturma ve hatta programlama benzeri daha karmaşık görevleri otomatikleştirme gibi alanlarda yapay zekanın başarabileceklerinin sınırlarını zorlamaktadır. Bu modeller gelişmeye devam ettikçe, giderek daha sofistike hale gelen algoritmaları eğitmek için büyük, çeşitli veri setlerine olan ihtiyacın altını çizmektedirler.
| |
| | |
| == Görsel Yapay Zeka ==
| |
| Büyük Dil Modellerinde gördüğümüz gibi, yapay zekanın metin işleme ve üretme kapasitesi dijital etkileşimlerimizin birçok yönünü önemli ölçüde yeniden şekillendirdi. Ancak, yapay zekanın gücü metinsel verilerin çok ötesine uzanmaktadır. Yapay zekanın önemli adımlar attığı bir diğer önemli alan da görsel bilgilerin yorumlanması ve bunlarla etkileşime girilmesidir. Bu da bizi Evrişimsel Sinir Ağları (CNN’ler) gibi yeniliklerin öncülük ettiği Görsel Yapay Zeka Modellerine getirir. CNN’ler, bilgisayarların fotoğraflar, videolar ve diğer görsel medyadaki içeriği görmesini ve anlamasını sağlayan temel bir teknoloji olmuştur. 1980’lerin sonunda ve 1990’ların başında rakam tanıma için kullanan diğer algoritmaları Yann LeCun, CNN’leri kullanarak önemli ölçüde geliştirmiştir.
| |
| | |
| Görsel yapay zeka, tıpkı insan görüşü gibi etrafımızdaki dünyayı görebilen ve yorumlayabilen teknolojileri içerir. Bu modeller, çevrelerini anlamak ve onlarla etkileşime geçmek için başta görüntüler ve videolar olmak üzere farklı türde veriler kullanır. Görsel verilerin kritik içgörüler sağladığı sağlık, otomotiv, güvenlik ve eğlence gibi sektörleri etkileyen bu tür yeteneklerin etkileri oldukça baskındır.
| |
| | |
| == Yapay Zekada Çoklu Modellemenin Gücü ==
| |
| Yapay zekanın potansiyeli tek bir veri türünü işlemekle sınırlı değildir. Metin, görüntü, ses ve duyusal geri bildirim gibi çeşitli veri kaynaklarından gelen girdileri entegre eden çok yönlü yapay zeka sistemleri, insana daha çok benzeyen yorumlama ve dünya ile etkileşime doğru bir sıçramayı temsil etmektedir. Bu sistemler, yapay zekanın robotik ve otonom sürüş gibi karmaşık ortamları anlaması ve bu ortamlarda hareket etmesi gereken uygulamalarda çok önemlidir.
| |
| | |
| Çoklu yapay zeka modelleri, robotik alanında bu robotların dinamik ortamlarda etkili bir şekilde çalışmasını sağlar. Örneğin, hastanelerdeki veya depolardaki hizmet robotlarının sözlü talimatları yorumlaması, nesneleri tanıması, engellerin etrafında dolaşması ve bazen nesneleri tutması gerekir. Bu da işitsel, görsel ve dokunsal verilerin entegrasyonunu gerektirir. Benzer şekilde, otonom araçlar kameralardan gelen görsel verileri radar ve lidar verileriyle, trafik işaretlerinden gelen metinsel bilgilerle ve çevreden gelen işitsel sinyallerle birleştirir. Bu kapsamlı duyusal entegrasyon, bu gibi yüksek riskli uygulamalarda gerekli olan güvenli navigasyon ve karar verme süreçleri için gereklidir.
| |
| | |
| Yapay zeka sistemleri, birden fazla veri türünü aynı anda işleyerek karmaşık durumları daha doğru bir şekilde anlayabilir. Bir kalabalığı hem görebilen hem de duyabilen bir yapay zeka sistemi düşünün; bu sistem bir ortamdaki atmosferi yalnızca görsel verilere dayanan bir sistemden daha iyi değerlendirebilir. Bu çok yönlü algılama, güvenlik ve bağlamsal algının önemli olduğu senaryolarda hayati önem taşır.
| |
| | |
| Mevcut çok yönlü girdilere dayanarak gelecek senaryolarını tahmin etmek, yapay zekadaki en büyük zorluklardan ve ilerlemelerden birini temsil etmektedir. Sürücüsüz otomobiller gibi otonom sistemler sadece topladıkları verileri yorumlamakla kalmamalı, aynı zamanda daha sonra ne olacağına dair bilinçli tahminlerde de bulunmalıdır. Bu yetenek, öngörülemeyen ortamlarda gezinmek ve stratejileri gerçek zamanlı ayarlamak için çok önemlidir.
| |
| | |
| == Dijitalleşmede Veri ve Bireysel Yükümlülüklerin Kritik Rolü ==
| |
| Metin tabanlı Büyük Dil Modellerinden dünyayı insanlar gibi algılayan ve etkileşime giren çok modelli sistemlere kadar yapay zekanın geniş yönlerini keşfettikçe, değişmeyen bir şey kaldı: Verilerin merkezi rolü. Veriler tüm yapay zeka sistemlerinin can damarıdır ve sadece bir kaynak olarak değil; yapay zekanın öğrendiği, adapte olduğu temel olarak var olur. Bununla birlikte bu verilerin sorumluluğu yalnızca teknoloji uzmanlarının ve şirketlerin omuzlarında değildir; bu sorumluluk bireyler olarak her birimize uzanmaktadır.
| |
| | |
| Günümüzün dijital çağında, internet sitelerinde gezinmekten sosyal medyada etkileşim kurmaya kadar teknolojiyle olan her etkileşimimiz, yapay zeka sistemlerini eğitebilecek ve iyileştirebilecek veriler üretiyor. Bu durum, güçlü bir fırsat oluştururken aynı zamanda önemli bir sorumluluk da getiriyor. Bu ekosistemde pasif veri kaynakları değil, aktif katılımcılar haline gelmeliyiz. Bu da paylaştığımız veriler hakkında bilinçli kararlar vermek, bilgilerimizin potansiyel kullanımlarını anlamak ve veri işlemede etik uygulamaları savunmak anlamına geliyor.
| |
| | |
| Bireylerin dijitalleşmeye katkıda bulunabileceği ve dijital içerikle sorumlu bir şekilde etkileşim kurabileceği birkaç yol:
| |
| | |
| # Kişisel bir blog oluşturmak ve bunu sürdürmek, günlük hayatta karşılaştığımız, bizim veya başkaları için önemli olabilecekler hakkında yazmak.
| |
| # Video platformlarında (YouTube veya Vimeo gibi) veya TikTok, Instagram gibi eğlence platformlarında video içerikleri üretmek.
| |
| # Web sayfalarında ve sosyal medyada karşılaştığımız içeriklere karşı veri etiği yönüyle bilinçli olmak.
| |
| | |
| Tüm bunların dışında, yazılı kültür oluşturmanın (sadece sözlü iletişimin aksine) kilit nokta olduğunu söylemek doğru olacaktır. Yazılı iletişim kurmaya alışalım. Bu sayede hem düşüncelerimizi daha sistematik bir şekilde düzenlemek hem de dijital dünyaya ve verilere katkıda bulunmamız mümkün olacaktır. Bu değişimi benimsemek hem kişisel iletişim becerilerimizi hem de dijital okuryazarlığımızı geliştirecektir.
| |
| | |
| == Sonuç ==
| |
| Rich Sutton’ın etkili yazısı “The Bitter Lesson” dan (Acı Ders) yola çıkarak, yapay zekadaki ilerlemelerin ağırlıklı olarak geniş veri ve büyük hesaplama gücünden kaynaklandığını kabul ediyoruz. Hesaplama gücünü sağlama sorumluluğu kurumlara ve gruplara ait olsa da, verilerin oluşturulması ve etik bir şekilde işlenmesi her bir bireye düşen bir görevdir.
| |
| | |
| Metin tabanlı modeller ve görsel yapay zekadan çok modelli sistemlere kadar çeşitli alanlarda yapay zekanın dönüştürücü potansiyelini benimserken bu teknolojiyi şekillendirmedeki kritik rolümüzü kabul etmeliyiz. yapay zekayı besleyen veriler, ziyaret ettiğimiz web sitelerinden paylaştığımız gönderilere varana kadar dijital eylemlerimizden kaynaklanmaktadır. Dolayısıyla dijital içerik oluşturmak ve verilerle etik bir şekilde etkileşim kurmak sadece faydalı faaliyetler değil, gelecekte varlığını sürdürmek isteyen herkes için bir zorunluluktur.
| |
| | |
| Kitapların dijitalleştirilmesine aktif olarak katılarak, bloglar yazarak, Wikipedia gibi açık kaynaklara katkıda bulunarak veya videolar üreterek, bakış açılarımızın ve değerlerimizin dijital anlatıya yansıtılmasını sağlarız. Bu tür katkılar yalnızca dijital ayak izimizi geliştirmek için değil, aynı zamanda dengeli bir yapay zeka ekosistemini teşvik etmek için de çok önemlidir. Verileri nasıl ürettiğimiz ve işlediğimiz konusunda bugün yaptığımız seçimler yarının yapay zekasını doğrudan etkileyecektir.
| |
| | |
| === Biyografi ===
| |
| '''Hasan Yıldız,''' 9 yıldır yapay zeka alanında çalışmaktadır. Görüntü ve video işleme alanında doktora çalışmalarını sürdürdü ve kariyerinde çeşitli şirketlerde yapay zeka mühendisi olarak çalıştı. Tam zamanlı görevleri sırasında, Asya’daki en büyük yapay zeka topluluklarından biri olan Machine Learning Tokyo (MLT) aracılığıyla yapay zeka eğitimine önemli katkılarda bulundu. MLT’de atölye çalışmaları, sunumlar ve konuşmalar dahil olmak üzere çeşitli eğitim kaynakları geliştirdi. Şu anda, bir Japon robotik şirketinde yapay zeka ekibinin başkanı olarak görev yapmaktadır. Aynı zamanda bir mobil robot girişiminin kurucu ortağıdır ve ekibiyle birlikte mobil robotların dünyayı anlama ve eylemlerini insanlara benzer bir şekilde gerçekleştirme biçimlerini dönüştürmek için çalışmaktadır.
| |
| | |
| '''Ahmet Yücel,''' 2017 yılında Arjantin'e geldi, liseyi bitirdikten sonra Universidad de Buenos Aires'de Data Science bölümüne başladı ve halen orada eğitimine devam etmektedir. Programcılık, yapay zeka ve web development kursları alıp bu konularda kendini geliştirmeyi hedefliyor. Girişimcilikle uğraşıyor ve öğrendiği teknolojilerle insanlığın problemlerini çözmeyi düşlüyor. Şu anda ilahiyatçılara kaynak bulmakta ve yazı yazmakta yardımcı olacak bir yapay zeka asistanı üzerinde çalışıyor, diğer yandan daha sağlıklı ve verimli bir şekilde çalışmayı destekleyen Productyve.com'u geliştiriyor.
| |
| | |
| = Makale V: =
| |
| | |
| == Yapay Zeka ile Hizmet ==
| |
| Dr. Sezai Sablak, Dr. Mukaddes Sablak | |
| | |
| Hizmet insanları fiziksel ve fizik ötesi hayatlarında ortaya çıkan her yeni gelişmeyi, her Müslümanın yapması gerektiği gibi Kur’an-ı Kerim’in rehberliğinde okumalı, anlamlandırmalı ve imkan bulduğunda da yönlendirmelidir. Kur'an-ı Kerim'deki "akletmez misiniz", "düşünmez misiniz", "tefekkür etmez misiniz" gibi ifadeler Müslüman aklının faal olduğunun altını çizerler. Yapay zeka da bu faal aklın konularından biridir ve onun doğru ve etik bir şekilde kullanılması, imkan olduğunda bu çerçevede yönlendirilmesi Hizmet insanlarının gündeminde olmalıdır. Ancak bunu yapabildiğimiz takdirde yapay zeka insanoğlunun mevcut bilgi, zeka, duygu ve yeteneklerini aşarak, onu yaratılışındaki potansiyele yaklaştıracak ve insanın Yüce Allah'ın yarattığı her şeyde bulunan “ahsen-i takvimi”, yani mükemmel yaratılışı anlama ve hayatına anlam katmada önemli bir araç olacaktır.
| |
| | |
| İnsanoğlunun keşfettiği her şey bir ölçüde kendi kendini de yeniden keşfetmesine yol açmıştır. Yapay zeka geliştikçe insan zekâsının derinliklerini daha iyi keşfedebileceğimizi görüyoruz şimdiden. Belki de önümüzde yaratılışımızın ve diğer yaratılanların şimdiye kadar bilinmeyen boyutlarının keşfedileceği heyecan verici bir dönem bekliyor bizleri. Her durumda bu içeri doğru yaşanacak keşfin bazı sosyal, ahlaki ve felsefi meydan okumalar da getireceği muhakkak. Yazımızın konusu günümüzde ve yakın gelecekte AI teknolojisi sayesinde Hizmetlerimizi nasıl kanatlandırabileceğimiz olduğundan insanlığı bekleyen bu okumaları bir kenara bırakarak, imkanlar uzayının kabaca bir haritasını çizmeye koyulalım.
| |
| | |
| == Eğitim Hizmetlerinde Yapay Zeka ==
| |
| Hizmet en temelde bir eğitim hareketidir. Pek çok kişi yapay zeka (AI) uygulamalarının geleneksel eğitim metotlarını anlamsızlaştırabileceği endişesini taşımaktadırlar. Oysa Hizmetimiz müsbet hareket doktrinini her yeni gelişmeden yeni Hizmet imkanları çıkarma olarak yorumlamıştır. Yapay zekanın eğitimin kişisel gelişim seviyesinden örgütlü eğitime kadar her alanda uygulama alanı bulacağı muhakkaktır. Bu meyandan olarak aşağıdaki alanlara yoğunlaşılabilir:
| |
| | |
| # Kişiselleştirilmiş Eğitim: Yapay zeka destekli uygulamalar, kullanıcıların öğrenme tarzlarına göre kişiselleştirilmiş eğitim materyalleri sunabilir.
| |
| # Dil Öğrenimi: Yapay zeka temelli dil öğrenme uygulamaları, kullanıcının telaffuzunu analiz ederek geri bildirim verebilir ve dil bilgisi uygulamalarını kişiselleştirebilir.
| |
| # Duygusal Zeka ve Kişisel Farkındalık: Yapay zeka, kullanıcının stres seviyesini analiz ederek duygusal durumlarını izleyebilir, gerektiğinde rahatlama teknikleri, dualar ve nebevi metotlar önererek duygusal zekanın gelişimine ve farkındalığın artırılmasına katkıda bulunabilir.
| |
| # Eğitim ve Öğretim Araçları: AI destekli eğitim uygulamaları kişiselleştirerek farklı öğrenme stillerine ve seviyelerine uygun hale getirebilir. Örneğin, kullanıcının bilgi düzeyine göre uyarlanan interaktif uygulamalar hadis ezberleme veya hadis bilgisini test eden sınavlar sunabilir.
| |
| # Araştırma ve Akademik Çalışmalar: AI, her türlü ilmi araştırmada veri analizi ve diğer araştırma süreçlerini hızlandırabilir. Örneğin, belirli konularla ilgili hadisleri otomatik olarak toplayabilir ve bunları tematik olarak sınıflandırabilir.
| |
| | |
| == Manevi Beslenme ve Geliştirme Faaliyetlerinde Yapay Zeka ==
| |
| İslami hizmetlerde AI kullanımı, dini bilgilerin daha geniş kitlelere ulaştırılmasını ve daha interaktif öğrenme deneyimlerini mümkün kılar. Hizmetimizin gerek Kur’an ve Hadis gibi İslami ilimlere bakan, gerekse iç eğitimlerde kullanılan materyalleri AI ile maksimum verimlilik düzeyine çıkarılabilir. Bu çerçeveden olarak aşağıdaki ihtimallere odaklanılabilir:
| |
| | |
| # Hizmet Hassasiyetleriyle Eğitilmiş Yapay Zeka: Bu teknolojilerle kişiselleştirilerek etkileşimli hale getirilmiş Hizmet, daha erişilebilir olacak ve insanlığın Hizmetin mesajına olan ihtiyacını daha iyi karşılayabilecektir. Ancak, yapay zekanın rehberlik hizmeti sunulmadan evvel eğitilmesi (training) ve Hizmet hassasiyetleri göz önünde bulundurularak dikkatli bir şekilde ele alınıp Hizmet içerikleri ile modellenmesi gerekmektedir.
| |
| # Kişiselleştirilmiş Hizmet Öğretimi: Yapay zeka, Hizmet’in iç eğitim müfredatlarını kişiselleştirerek, Hocaefendi’nin ifadesi ile, seçkin dimağlar ve en ateşin zekalı bireylerin ihtiyaçlarına uygun hale getirebilir.
| |
| # Çeviri ve Dil Hizmetleri: Dünyanın dört bir yanında hizmet eden arkadaşlarımız için vaaz, sohbet ve metinlerin farklı dillere çevrilmesine olan ihtiyaç ortadadır. AI teknolojileri sayesinde İslami bilimler ve Hizmet ile ilgili metinler farklı dil, sesli okuma veya işaret diline çevirme gibi imkanlarla yaygın kullanıma açılabilir.
| |
| # Danışmanlık ve Rehberlik: Hizmetin modus operandisi, yani en temel operasyonel stratejisi sohbet-i canandır. Yapay zeka, danışmanlık ve rehberlik hizmetlerinde kişiye özel sohbet içerikleri üretebilir. Örneğin, kullanıcılardan gelen sorulara Hizmet prensipleri çerçevesinde yanıtlar verebilen hayırhah sohbet robotları geliştirilebilir. Bu sohbet robotları, İslami bilgileri veri tabanlarından çekerek veya önceden programlanmış dini bilgileri kullanarak, Fıkıh, Hadis ve Kur'an ilimlerine dair sorulara da cevap verebilirler.
| |
| # Makine Öğrenimi: AI, makine öğrenimi modelleri kullanarak metinlerden atasözleri ve deyimleri, halk deyişleri, metaforlar ve yeni dil trendlerini öğrenebilir. Bu özelliği Üstadımızın ve Hoca Efendi’nin Türkçesine uygulandığında Hizmet kaynaklarının dilimize kazandırdığı yeni kavram ve kelimeler hem AI tarafından öğrenilebilir, hem de bunların kullanıcılar tarafından öğrenilmesi kolaylaşabilir.
| |
| # Özetleme ve Kavramsal Analiz: Yapay zeka, metinleri özetlemek ve ana fikirlerini çıkarmak için kullanılmaktadır. Bu, özellikle uzun veya geniş literatürü daha erişilebilir hale getirmede faydalıdır. AI, önemli temaları ve kavramları belirleyerek yazılı kaynaklarımızdan kısa ve öz bir özet sunabilir. Bu tarz çalışmalar sohbet hazırlığı yapan bir hocanın olduğu kadar Hizmet üzerinde çalışan araştırmacıların da işlerini kolaylaştıracaktır.
| |
| # Trend Analizi ve Tahminleme: Yapay zeka, özellikle ekonomi, politika veya teknoloji gibi alanlarda trend analizleri yaparak gelecekteki eğilimleri tahmin etmede kullanılabilir. Hizmete sıkça yöneltilen sorular veya gençlerin öğrenmek istediği konular trend analizi ve tahminleme ile kolayca tespit edilebilir ve bunlara yönelik içerik oluşturulması sağlanabilir.
| |
| # İbadet Öğretici Uygulamalar: AI, Müslümanların namaz kılma, abdest alma, tesbihat yapma gibi ibadetleri öğrenmelerine yardımcı olacak görsel ve sesli uygulamalar geliştirebilir. Bu uygulamalar, doğru adımları göstererek ve gerektiğinde düzeltmeler yaparak kullanıcılara rehberlik edebilir.
| |
| # AI Destekli Kur'an Öğretimi: AI teknolojileri, Kur'an öğrenimini kişiselleştirerek farklı öğrenme stilleri ve seviyeleri için uygun hale getirebilir. Örneğin, kullanıcının okuma ve hafızlık becerilerine göre ayarlanan interaktif uygulamalar, ayetleri ezberleme veya tecvid kurallarını öğrenme sürecini destekleyebilir. Talebe, fem-i muhsin sahibi hocaların kıraatı ile eğitilmiş olan AI uygulamasını tekrarla taklit ederek okuyuşunu düzeltir; AI uygulaması da hiçbir sabırsızlık emaresi göstermeden talebenin tecvidini düzeltebilir.
| |
| # Dinin Dili Eğitimi: AI, Kur'an öğretiminin yanısıra Arapça dil eğitimi gibi alanlarda da kullanılabilir. Yapay zeka destekli uygulamalar Kur'an ayetlerini okuyabilir, anlamlarını açıklayabilir, kullanıcının dil bilgisi ve telaffuzunu iyileştirmek için interaktif alıştırmalar sunabilirler.
| |
| # Kur'an Tefsiri ve İçerik Analizi: AI, Kur'an ayetlerinin bağlamlarını ve tefsirlerini analiz ederek, kullanıcılara derinlemesine bilgiler sunabilir. Bu, özellikle farklı tefsir ekollerinden yorumları karşılaştırmak ve tefsir metodolojilerine göre geniş bir perspektif sunmak için faydalıdır.
| |
| # Metin Karşılaştırma ve İnceleme: AI, Kur'an metinlerini Hadisler veya diğer İslami kaynaklarla karşılaştırarak, farklı dini metinler arasındaki ilişkileri ortaya çıkarabilir. Bu, dini bilgilerin daha kapsamlı bir şekilde anlaşılmasına katkı sağlar.
| |
| # Hadis Sınıflandırması ve Sıhhat Analizi: AI, hadislerin sahihlik derecesini belirlemek için kullanılabilir. Makine öğrenimi teknikleri, hadislerin isnad zincirlerini ve metinlerini analiz ederek, bunların güvenilirliğini değerlendirebilir.
| |
| | |
| == Diyalog Hizmetlerinde Yapay Zeka ==
| |
| | |
| # Entegrasyon Yönetimi ve Etkileşim: Yapay zeka Hizmet gönüllüleri arasında daha güçlü bir iletişim ve etkileşim sağlayabilir. AI, Hizmet gönüllülerinin ve muhataplarının ilgi alanlarına, ihtiyaçlarına ve kültürlerine göre etkinlikler önererek, bulundukları toplum içinde daha verimli bir katılım sağlamalarına destek olabilir.
| |
| # İletişim Kalitesi: Diyalog Hizmetlerinin önemli bir boyutu konuşmalar, yazışmalar ve ikili temaslarla yürütülen iletişimin kalitesidir. AI destekli eposta ve konuşma metni hazırlama botları Hizmet gönüllülerinin eksiksiz metinler üretmelerini, kişilere en uygun hitap tarzıyla hitap etmelerini, iletişimin duygu seviyesine göre iletişim içerikleri oluşturmalarını sağlayabilir.
| |
| # Diyalog Eğitimi: Farklı din ve kültürlerden insanlarla ilk temaslarda Hizmet gönüllüleri çekingen davranabilirler. Bu çekingenlik AI botlarıyla yapılacak eğitim diyaloglarıyla atlatılabilir.
| |
| | |
| == İnsani Yardım, Sosyal Refah Faaliyetlerinde Yapay Zeka ==
| |
| | |
| # Bağış Toplama ve Bağışçı Yönetimi: Yapay zeka, bağış verilerini analiz ederek kuruluşların ve bağışçıların ne zaman bağış yapma olasılığının yüksek olduğunun belirlenmesine yardımcı olabilir. Bu, özelleştirilmiş bağış kampanyaları ve etkili iletişim stratejileri geliştirmek için kullanılabilir. AI, ayrıca bağışçıların geçmiş bağışları ve ilgi alanlarına göre daha çok bağış yapmalarını teşvik edici kişiselleştirilmiş içerikler oluşturabilir.
| |
| # İhtiyaç Analizi ve Kaynak Dağıtımı: Hizmet bağlantılı insani yardım kurumları, yapay zeka kullanarak ihtiyaç sahibi bölgeleri ve bireyleri daha doğru bir şekilde belirleyebilir. AI, toplanan verileri analiz ederek hangi bölgelerin hangi tür yardıma ihtiyacı olduğunu anlamada yardımcı olur ve kaynakların daha etkili bir şekilde dağıtılmasını sağlar.
| |
| # İslami Finans: Sosyal refahın temininde vicdan rahatlığının sağlanması da önemlidir. AI, İslami finans kurumları tarafından kullanılarak faizsiz bankacılık işlemleri, helal yatırım önerileri, zekat, miras ve risk değerlendirmeleri gibi finansal hizmetler otomatize edilebilir. Hizmet kurumları bu konuda Müslümanların ihtiyaçlarını karşılayacak öncü rolleri üstlenebilirler.
| |
| | |
| == Yayıncılıkta Yapay Zeka ==
| |
| Yapay zeka (AI), medya ve içerik üretimi sektöründe çok yönlü kullanım imkânları sunarak, içerik oluşturma, düzenleme, öneri sistemleri ve kullanıcı deneyimini geliştirme gibi birçok alanda yeni açılımlar yapmıştır.
| |
| | |
| # Metin Madenciliği ve Veri Çıkarımı: Yapay zeka, büyük veri setlerinden önemli bilgileri çıkarmak için kullanılabilir. Örneğin, metin madenciliği teknikleri, akademik makalelerden, haber metinlerinden veya sosyal medya gönderilerinden belirli anahtar kelimeler, ifadeler ve konularla taramalar yapılmasında kullanılabilir.
| |
| # Doğal Dil İşleme (NLP): NLP, AI'nın dil anlamak ve işlemek için kullandığı bir teknolojidir. Bu teknoloji ile yazılı metinlerdeki dil yapıları analiz edilebilir, içerik özetleri oluşturulabilir, metin içindeki duygusal ton değerlendirilebilir ve hatta bir metnin hangi yazara veya ekole ait olduğunu tahmin edilebilir.
| |
| # İçerik Üretimi: Yapay zeka, haber makaleleri, spor raporları veya finansal özetler gibi standart formatlardaki içerikleri otomatik olarak üretebilir. Ayrıca, sosyal medya gönderileri veya reklam metinleri oluşturmak için de kullanılabilir.
| |
| # Video Üretimi ve Düzenleme: AI, video içeriklerin düzenlenmesi ve iyileştirilmesinde kullanılabilir. Örneğin, AI, çekimlerden en iyi sahneleri seçebilir, renk düzeltmeleri yapabilir ve hatta otomatik olarak video montajı gerçekleştirebilir. Ayrıca, yapay zeka destekli araçlar, hava koşulları, kalabalık sahneleri veya görsellerdeki nesneleri, yüzleri veya sahneleri tanıyabilir. Bu özellik, içeriklerin etiketlenmesi, arşivlenmesi ve sınıflandırılması süreçlerini otomatize eder.
| |
| # Kişiselleştirilmiş Öneri Sistemleri: AI, kullanıcıların geçmiş izleme ve dinleme alışkanlıklarını analiz ederek kişiselleştirilmiş içerik önerileri sunar. Bu sistemler, yapay zeka algoritmaları kullanarak kullanıcıların tercihlerini daha iyi anlar ve onlara uygun yeni içerikler önerir.
| |
| # Ses Tanıma ve İşleme: AI, podcastlerde ve video içeriklerde konuşulan kelimeleri metne dökebilir (speech-to-text), bu sayede içeriklerin aranabilir ve erişilebilir olmasını sağlar.
| |
| # Seslendirme: AI, metni konuşmaya çevirme (text-to-speech) teknolojisiyle, yazılı metinleri insan benzeri seslere dönüştürebilir ve sesli kitaplar oluşturabilir. Ayrıca AI, arka plan gürültüsünü azaltma ve konuşma seslerini iyileştirme konusunda oldukça etkilidir. Bu, kalabalık ortamlardaki konuşmaların netleştirilmesi veya kötü kayıt koşullarından etkilenen ses dosyalarının düzeltilmesinde kullanılabilir.
| |
| # Etkileşimli ve İmmersif Deneyimler: Yapay zeka, artırılmış gerçeklik (AR) ve sanal gerçeklik (VR) uygulamalarında kullanılarak, kullanıcılara daha etkileşimli ve gerçeklik duygusu veren medya deneyimleri sunabilir.
| |
| | |
| == Hizmet Kurumlarının Yönetişiminde Yapay Zeka ==
| |
| Yapay zeka (AI), kurumlarımızın verimliliğini artırarak daha fazla kişiye ulaşmalarına ve hizmetlerini geliştirmelerine yardımcı olabilir.
| |
| | |
| # Karar Alma Süreçlerine Destek: Karar alma süreçlerinde veri analizleri ile Hizmet’in en mühim esaslarından olan istişareleri zenginleştirilebilir ve önerilerle, beyin fırtınası yapanlara farklı perspektifler hatırlatılabilir.
| |
| # Zaman Yönetimi ve Verimlilik: Yapay zeka, kişisel ve kurumsal verimliliği artırmak için kullanıcıların günlük görevlerini ve zamanlarını nasıl daha iyi yönetebileceklerini analiz edebilir, sıralayabilir ve önceliklendirebilir. Örneğin, namaz vakitlerinin ve toplantı saatlerinin en verimli şekilde ayarlanmasında faydalı olabilir.
| |
| # Etki Değerlendirme: Yapay zeka, kurumların yürüttüğü projelerin etkisini ölçmede kullanılabilir. AI teknolojileri, projelerin sonuçlarını analiz ederek hangi girişimlerin başarılı olduğunu ve hangi alanlarda iyileştirmeler yapılması gerektiğini belirleyebilir.
| |
| # Operasyonel Verimlilik: Kurumlar, yapay zeka yardımıyla günlük operasyonlarını otomatize edebilir ve çalışanların zamanını daha stratejik görevlere ayırmalarını sağlayabilir. Örneğin, AI, sıkça sorulan soruları cevaplamak için kullanılabilir veya basit idari işlemleri otomatize edebilir.
| |
| | |
| == Sonuç Yerine: Şimdi ne yapmak lazım? ==
| |
| Yukarıdaki liste bile yapay zekanın yakın gelecekte farklı Hizmet alanlarında nasıl kullanılabileceğini göstermeye yeter. Elbette, yapay zeka bunların hiçbirini kendi başına yapacak değildir. Bunun için eğitim, irade, uzak görüşlülük ve cesaret lazımdır. İslam dünyası bir dijital uçurum yaşıyor. Yani Batı dünyasının yaşadığı dijital devrim İslam dünyasında aynı verimlilik artışını yapmadı. İslam dünyası bilgisayarların, internetin tüketicisi, hatta büyük oranda oyuncusu oldu. Yapak Zeka henüz gelişme aşamasında olan bir teknolojidir. Matbaanın gecikmesinin İslam dünyasına nelere mal olduğunu hepimiz biliyoruz. Yapay zekadaki gecikmenin bundan çok daha büyük bir uçurum oluşturacağına inanıyoruz. Böylesi bir gecikmeye engel olmak için Hizmet gönüllülerinin önümüzdeki bir yıl içinde yapmaları gereken bazı hazırlık faaliyetlerini sıralamak istedik.
| |
| | |
| # 15 yaş üstündeki her Hizmet gönüllüsü yapay zekanın ne olduğunu, nasıl işlediğini, şimdilik neleri nasıl yapabildiğini bilmek zorundadır. Bunun için önümüzdeki bir yıl içinde her Hizmet gönüllüsü iki saatini ayırıp konuyla alakalı bir kitapçık okumalıdır. Yapay Zeka Etiği Divanı için hazırlanmış olan Yapay Zeka Rehberi iki saat içinde okunabilecek harika bir kitapçıktır. Bu kitapçığı bütün Hizmet gönüllülerine hararetle tavsiye ediyoruz.
| |
| # Yapay zeka uygulamalarının özellikle Hizmet kurumlarında yönetici, sohbet hocası, dini rehber olarak çalışan kişiler ve ilahiyatçılar tarafından tanınması ve etkin bir şekilde kullanılması önemlidir. Bu konu bireysel inisiyatiflere bırakılamaz. Respect Graduate School Sürekli Eğitim Departmanı ve Hizmet’in farklı ülkelerde faaliyet gösteren eğitim kurumları bu konuda eğitim almak isteyen kişilere yönelik programlar geliştirmeli, Hizmet kurumları da bu programları desteklemelidirler.
| |
| # Yapay zeka uygulamalarının kullanım ve geliştirilmesinde Hizmet prensip ve öğretilerinin ahlaki pusula olarak kullanılması önemlidir. Hizmetimizin tesis etmiş olduğu bu prensip ve öğretilerini yeni teknolojilere nasıl uygulanacağı konusunda Yapay Zeka Etiği Divanı’nda başlatılmış olan çapanın yaygınlaştırılması, bu amaçla makaleler kaleme alınması, müzakere halkalarının kurulması önemlidir.
| |
| | |
| Elbette Hizmet gönüllülerinin Yapay Zekanın geliştirilmesi konusunda söyleyecekleri başka şeyler de olacaktır. Ancak biz listemizi önümüzdeki bir yıl içinde yapılması şart olan üç maddeyle sınırlı tutmak istedik.
| |
| | |
| Yapay Zeka Etiği Divanı’nın sonuç bildirgesinde daha pek çok tavsiyenin sıralanacağını öngörebiliyor ve bu çalışmayı omuzlayan arkadaşlarımızı cesur ve zamanlaması yerinde girişimlerinden dolayı tebrik ediyoruz.
| |
| | |
| === Biyografi ===
| |
| Dr. Sezai Sablak şu anda Peraton Laboratuvarlarında baş bilim insanı olarak görev yapmaktadır. Yüksek lisans ve doktorasını 2000 yılında Lehigh Üniversitesinde Bilgisayar Bilimleri alanında tamamlamıştır. Philips, Siemens, Bosch, Schneider Electric, General Dynamics, Inertial Labs, Raytheon Technologies ve Huawei Technologies gibi çeşitli şirketlerin Ar-Ge laboratuvarlarında çalışmıştır. Araştırma alanları arasında yapay zeka, derin/makine öğrenimi, bilgisayar/makine görüşü, 3 boyutlu lidar kameralar, akıllı kameralar, otomasyon, robotik, algı, gömülü programlama ve sensör füzyonu bulunmaktadır. Birçok bilimsel makalenin yazarı ve çeşitli ABD patentlerine sahiptir. Son olarak Respect Graduate School Yönetim Kurulu Başkanı ve kurucu yönetim kurulu üyesidir. | |
| | |
| = Makale VI: =
| |
| | |
| == Teknoloji ve Etik: Yapay Zekâ Çağında Sorunlar ve Denge Stratejileri ==
| |
| Dr. Zeynep Orhan
| |
| | |
| Yapay zekâ deyince akla çok geniş bir dünya geliyor. Arama motorlarına yapay zekâ yazınca karşımıza gelen görseller ve haberler oldukça ilginç. Aslında bu konuda çok fazla bilgi kirliliği ve kafa karışıklığı da mevcut. Yapay zekâ kelimelerini duyunca hepimizin zihninde uçuşan çok farklı tanımlar olsa da ortak paydalarda insansı robotları; pek çok işi süper hızlı ve hatasız yapan makinaları; dijital semboller, resimler, videolar, sosyal medya vs. üzerinde çalışan, işleyen ve hayranlıkla beraber korku uyandıran cihazları saysak çok yanlış bir varsayım yapmış olmayız.
| |
| | |
| Her gün birbiri ardınca ve baş döndürücü bir hızla piyasaya sürülen yapay zekâ destekli ürünler her ne kadar geniş kitleleri büyülese de bir taraftan da Hollywood filmlerinin ve medyanın etkisiyle içimizdeki korkuları ve acabaları da tetiklemeye devam ediyor. Akıllı telefon asistanlarından, paket teslim eden otonom dronlara ve iklim değişikliğine çare olabilecek araçlara, tabiatı korumadan tarım ve hayvancılıkta daha verimli ürünler elde etmeye, sinema ve film endüstrisinde inanılmaz hızlı ve güzel içerik üretmeden sosyal medyayı daha etkin kullanmaya, sağlık alanında hızlı ve kaliteli hizmet sunmadan engellilerin hayatını kolaylaştırmaya, kriz yönetimi ve doğal afet gibi durumlarda kaynakların etkin kullanılmasından suçluların takip ve yakalanmasına kadar pek çok alanda yapay zekâ, günlük yaşamımızın giderek daha ayrılmaz bir parçası haline geliyor. Merak ve hayranlıkla dolu bu ortamda elbette ki, önemli bazı sorular da ortaya çıkıyor: Yapay zekâ hayatımızı olağanüstü güzelleştirecek sihirli bir değnek mi, yoksa insanlığı ortadan kaldıracak potansiyel bir tehlike mi? Gerçek, her zamanki gibi, mükemmel bir gelecek vizyonu ile sorunlu bir gelecek kâbusu arasında kendine yer buluyor. Hikayelerimizdeki kötü karakterlerin aksine, yapay zekânın içinde tabiatından kaynaklı bir kötülük yok. Ancak herhangi bir dönüştürücü teknoloji gibi uygulanış şekline bağlı olarak etkileri değişen, güçlü bir araçtır. Buna benzer tartışmalar insanlığın tarihi boyunca hemen her türlü yenilik konusunda da gündeme gelmiştir ve gelmeye de devam edecektir.
| |
| | |
| Yapay zekâ, sürekli olarak bilgi edinen ve kendini geliştiren, her zaman meraklı bir öğrenci olarak düşünülebilir. Bu yetenek, karmaşık operasyonları hassasiyetle gerçekleştiren yapay zekâ destekli cerrahi robotlardan, mahsul verimlerini optimize eden ve atıkları azaltan akıllı tarım sistemlerine kadar birçok fırsatı açığa çıkarabilir. Ancak her öğrenci gibi, yapay zekâ da hata yapmaya meyillidir. Yapay zekânın eğitim ve geliştirme aşamalarındaki önyargılar ve hatalar nedeniyle ayrımcı sonuçlara yol açması, hatalı ve problemli bilginin yayılması veya toplumun belirli kesimlerine zarar vermesi, otomasyon kaynaklı istihdam alanlarında yaşanan değişiklikler, belli teknoloji devlerinin veya ülkelerin süper güçler olarak dünyaya hükmetmeleri ve diğer kesimlerle aralarında mevcut olan uçurumların daha da derinleşmesi ile ilgili meşru endişeler, bu alandaki denetim, gözetim ve etik kuralların önemini çok net bir şekilde hissettirmektedir.
| |
| | |
| Bu çalışma, yapay zekânın hem heyecan verici olanaklarını nasıl kullanabileceğimizi hem de bunu yaparken karşılaşabileceğimiz zorlukları ve bunların üstesinden gelmek için neler yapılması gerektiğini ortaya koymayı amaçlamaktadır. Yapay zekânın doğasını ve potansiyelini derinlemesine inceleyerek, aslında onun yörüngesini etkileme gücü kazanmak ve böylece herkes için hizmet etmesine katkıda bulunmak mümkün olabilir. Bu alanda yapılacak her türlü faaliyet, toplumun tüm kesimlerini kapsayıcı ve kuşatıcı her türlü çalışma, yapay zekânın doğurabileceği problemleri şimdiden bertaraf etmeye mutlak katkı sağlayacak ve birlikte bu sihirli değneği etik ve sorumlu bir şekilde kullanabileceğimiz bir geleceğe doğru yol almamızı netice verecektir.
| |
| | |
| == Yapay Zekâ ve Bilişimde Etik Sorunlar ==
| |
| Yapay zekânın dönüştürücü potansiyeli göz önüne alındığında, yetenekleriyle ilgili endişeler anlaşılabilir bir durumdur. Yapay zekâ, dünyamızın neredeyse her yönünü yeniden şekillendirme sözü verirken, içindeki riskleri kabul etmek esastır. Bu bölüm, önde gelen bilim insanları tarafından vurgulanan etik ikilemleri daha derinlemesine incelerken, bu alanda karşılaşılan sıkıntıları sorgulamayı, bunları çözmek için ortaya konması gereken aktif ve bilinçli katılım yöntemlerini ele alacaktır.
| |
| | |
| Yapay zekâ sistemleri, mevcut sosyal eşitsizlikleri katlayarak sürdürmemeye ve geleneksel iş piyasalarında meydana gelecek değişimi toplumsal dengeleri sarsmayacak şekilde olumlu bir dönüşüme çevirmeye odaklandırılmalıdır. Gelişimin insan refahını ve adil ilerlemeyi önceliklendirmesi temel ilke olarak benimsenmelidir.
| |
| | |
| Ancak yapay zekânın yaygınlaşması, toplumsal ayrılıkları şiddetlendirebilecek yanıltıcı bilgilerin ve nefret söyleminin artmasına neden olarak kamu iletişimini önemli ölçüde etkilemektedir. Örneğin, derin sahtecilik (deepfake) teknolojileri, medya ve hükümet kurumlarına olan güveni erozyona uğratabilecek şekilde ikna edici ancak tamamen yanlış videolar üretebilmektedir. Ayrıca, sosyal platformlardaki yapay zekâ algoritmaları aşırı içerikleri teşvik edebilmekte, böylece kutuplaşmayı körükleyebilmekte ve potansiyel olarak şiddeti teşvik edebilmektedir.
| |
| | |
| Yapay zekânın diğer bir sorunu, gerçeklikle bağdaşmayan çıktılar üretmesi yani halüsinasyonlarıdır. Bu hatalar, özellikle sağlık tanıları ve kendiliğinden sürüş teknolojisi gibi kritik alanlarda yaşamsal tehlikelere yol açabilmektedir.
| |
| | |
| Cathy O’Neil "Weapons of Math Destruction" adlı eserinde, sosyal eşitsizlikleri yansıtan ve derinleştiren önyargılı yapay zekâ algoritmalarının tehlikelerini tartışmaktadır. Sigorta ve kolluk kuvvetleri gibi sektörlerde kullanılan bu algoritmalar, mevcut önyargıları yansıtmaya devam etmekte ve hatta güçlendirmektedir. Örneğin, algoritmalar bir öğrencinin kredi başvurusunu ikamet ettiği alanla ilgili algılanan riskler nedeniyle reddedebilmekte, böylece ekonomik eşitsizlikleri pekiştirebilmektedir (O’Neil, 2017). Bunun temel nedeni ise bu sistemlerin kullandığı veriyi geçmişte ayrımcı kararlara neden olan verilerden almasıdır. Oysa geçmişte kullanılan veriler zaten insanların önyargılarının ürettiği zararlı verilerdir ve doğal olarak aynı hataları bu sistemlere taşımaya devam etmektedir.
| |
| | |
| Benzer şekilde, Safiya Umoja Noble "Algorithms of Oppression: How Search Engines Reinforce Racism" adlı çalışmasında, ırkçı ve cinsiyetçi kalıpları yaydığı gösterilen arama motoru algoritmalarındaki önyargıları analiz etmektedir. Noble, bu önyargıların, istihdam ve eğitimde kritik kararları etkileyerek dezavantajlı topluluklara çok fazla zarar verdiğini belirtmektedir (Noble, 2018).
| |
| | |
| Virginia Eubanks, "Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor " adlı eserinde, bu tür sistemlerin yoksul nüfus üzerindeki olumsuz etkilerini vurgulamaktadır. Eubanks, bu teknolojileri, dezavantajlı gruplara yardım etmek yerine onların durumlarını kötüleştiren yüksek teknolojili fakirhane (hi-tech poorhouse) olarak tanımlamakta ve teknoloji politikalarının daha insancıl ve kapsayıcı olması gerektiğini savunmaktadır (Eubanks, 2018).
| |
| | |
| "Coded Bias" adlı belgesel, MIT araştırmacısı Joy Buolamwini’nin, özellikle koyu tenli bireylerde daha az doğru sonuçlar veren yüz tanıma teknolojilerindeki önyargıları araştırmasını konu alan bir belgeseldir. Sistemin ögrenme verilerinde beyaz tenli erkekler çoğunlukta olduğu için kadınlar ve farklı ten renkleri göz önüne alınmamıştır. Bu kusur, belgeselde yapay zekânın eğitim verilerindeki önyargıları yansıtarak istihdam algoritmalarından sosyal medya platformlarına kadar çeşitli uygulamalarda ayrımcı sonuçlara yol açan daha geniş bir sorunun göstergesi olarak vurgulanmaktadır (Kantayya, 2020).
| |
| | |
| Buolamwini tarafından başlatılan Algorithmic Justice League gibi organizasyonlar, yapay zekâ sistemlerinde şeffaflık ve kapsayıcılığı vurgulayarak daha etik yapay zekâ geliştirme uygulamalarını teşvik eden çalışmalara öncülük etmektedir. Bu grup, yapay zekâ sistemlerindeki problemleri yakalamak için sistem denetimleri yapmakta ve sorumlu yapay zekâ kullanımını sağlamak için politika reformlarına yönelik savunuculuğu üstlenmektedir.
| |
| | |
| Ancak bu problemlerin yanında olumlu yanlardan da bahsetmede fayda bulunmaktadır. İnsanlar ve yapay zekâ arasındaki iş birliği, doğru şekilde dengelendiğinde, özellikle karar verme süreçlerinde faydalı olabilir. Araştırmalar, insan sezgisini yapay zekânın veri işleme yeteneğiyle birleştiren karma insan-yapay zekâ takımlarının, tek başına çalışanlardan daha etkili ve güvenilir olduğunu göstermektedir. Bu sinerji, sonuçları iyileştirmenin yanı sıra, insan gözetimiyle potansiyel yapay zekâ hatalarına karşı bir güvenlik önlemi sağlayarak yapay zekâ teknolojilerine olan güveni artırabilmektedir (Reverberi et al., 2022; Schemmer et al., 2023).
| |
| | |
| Yapay zekâ arama sonuçlarına güvenmek önemlidir, ancak yapay zekâ "halüsinasyonları" gibi yanılgılar kullanıcı güvenini zedeler. Yine de yapay zekâya aşırı güvenmek önemli riskler getirebilir. Örneğin, yapay zekâ destekli vergi yazılımları yanlış tavsiyeler sağladığı ve hukuki yardım sohbet robotları (chatbot) hatalı danışmanlık yaptığı için eleştirilmiştir (Fowler, 2024; Offenhartz, 2024).
| |
| | |
| Google da zaman içerisinde yapay zekâ ile ilgili sıkıntılı anlar yaşayan kurumlardan biri olmuştur. 2015 yılında Google, yeni fotoğraf uygulamasının bir siyah çifti “goriller” diye etiketlemesi nedeniyle özür dilemiştir. Amacı hayvanları fotoğraflarda işaretlemek olan uygulama, insanları da hayvanlarla karıştırıyordu. Afrika-Amerika kökenli bir kullanıcı Google Fotoğraflar albümüne baktığında kendisinin ve siyahi bir kız arkadaşının “gorillas” yani goriller olarak etiketlendiğini fark etti. Bu uygulama, yüklenen fotoğrafları, yapay zekâ kullanarak otomatik olarak etiketlemekteydi. Muhtemelen eğitim verisindeki problemler nedeniyle bu sorun ortaya çıkmıştı. Google hatanın ırkçı çağrışımları nedeniyle sosyal medyada yoğun olarak eleştirildi. Bunun üzerine Google sorunu hemen çözmeye odaklandı ancak çözüm verileri veya algoritmayı düzeltmek yerine, goril resim ve işaretlerini sistemden tamamen kaldırdı (Guardian, 2015).
| |
| | |
| Yakın zamanda yaşanan başka bir olayda da yine Google başroldeydi. Google I/O etkinliğinin ardından Google Aramalar'a eklenen AI Overviews özelliği, tuhaf ve yanlış yanıtlar üreterek yapay zekâ arama araçlarının daha fazla sorgulanır hale gelmesine neden oldu. Örneğin, bu özellik Reddit veya Onion gibi forumlardan alınan içeriğe dayanarak insanlara peynirin pizzaya yapışmasını sağlamak için tutkal kullanmalarını tavsiye etmiş, kullanıcılara Barack Obama'nın Müslüman olduğunu ve insanların böbrek taşı düşürmelerine yardımcı olmak için bol miktarda idrar içmeleri gerektiğini söylemişti. Ayrıca "baharatlı makarna" tarifi için benzin önerilmesi gibi tutarsızlıklar da bu kervana eklendi. Bu tür hatalar, Google, Microsoft ve OpenAI gibi büyük yapay zekâ sağlayıcılarının karşılaştığı gizlilik ve etik sorunlarına da dikkat çekmeye devam etmektedir (McMahon ve Kleinman, 2024).
| |
| | |
| Allan, insanların yapay zekaya ne tamamen güvenmeleri ne de tamamen kuşku duymaları gerektiğini, dengeli bir yaklaşımın önemini vurgulamaktadır (Allan ve ark., 2021). Yapay zekâ günlük yaşantımıza daha fazla entegre oldukça, tasarımcıların gelecekteki insan-yapay zekâ etkileşimlerini nasıl şekillendireceklerini düşünmeleri gerektiği açıktır (Lee ve ark., 2023). Yapay zekâ sonuçlarını iyileştirmek için yüksek kaliteli veri kullanımının ve uzman görüşlerinin önemi başka çalışmalarda da vurgulanmaktadır (Ed-Driouch ve ark., 2022). Ayrıca insan-makine iş birliğinin güven inşa ettiği ve yapay zekâ model performansını artırdığı da belirtilmektedir (Xie ve ark., 2024).
| |
| | |
| Yukarıda bahsi geçen vakalar sadece bu teknolojilerin verebileceği zararlar hakkında fikir vermesi amacıyla oluşturulan bir listedir. Yoksa ortaya çıkan veya çıkmayan daha pek çok örnek vermek de mümkündür. Zaten bu teknolojilerin sürekli iyileştirilmesi ve denetlenmesi gerektiği pek çok çalışmada da sıkça vurgulanmaktadır (McMahon ve Kleinman, 2024). Bu yüzden de yapay zekânın büyük dönüşüm potansiyeline sahip olmasına rağmen, etik sorunları ve tehlikeleri olduğu da asla göz ardı edilmemelidir. Yapay zekânın nimetlerinden faydalanırken dezavantajlarını unutmadan, adil bir teknolojik geleceğe sahip olmak için paydaşlar arasında ortak çabaların hız kesmeden devam etmesi gerekmektedir.
| |
| | |
| == Sorun Tespitinden Sonraki Basamak ==
| |
| Yapay zekanın kendine özgü zorlukları pek çok çalışma ve olaylarla kendini bizlere daha derinden hissettirmekte ve farkındalık artmaktadır ancak diğer hayati konularda olduğu gibi burada da somut çözümler maalesef henüz emekleme aşamasına bile gelememiştir. Problemlerin tanınması ve tartışılır hale gelmesi sevindirici olsa da bu bilinci eyleme dökmek asıl zorluğu oluşturmaktadır. Bu güçlü aracı nasıl etkin ve dikkatli kullanacağımızı öğrenmenin kolay bir süreç olmayacağını söylemek de uzman olmak gerektirmemektedir. Yapay zekâ, aslında doğası gereği tehlikeli değildir; asıl risk, kullanım amacı ve şeklinde yatmaktadır. Ateş, nükleer enerji biyoteknoloji vb. gibi, yapay zekâ da doğru yönetildiğinde büyük yararlar sağlayabilir ya da kötüye kullanıldığında ciddi zararlar verebilir. Hızlı bir şekilde bilinçli eylem planlarını hayata geçirmek atılacak ilk adımlar arasındadır. Bilinçli ve öncü bireylerin toplum için olumlu değişiklikler yapacak şekilde bu alanı şekillendirmesi elzemdir. Yapay zekanın olumlu bir güç olarak kalmasını sağlamak için herkesin etkin bir şekilde katılım göstermesi ve elini taşın altına koyması şarttır. Peki neler yapılabilir? Aşağıdaki basit adımlar ve önlemlerle başlanabilir.
| |
| | |
| Yapay zekâ sistemlerinin başarı veya başarısızlıklarında geliştiriciler ve kullanılan veriler iki ana unsurdur. Geliştiricilerin eğitimi, yapay zekânın tasarımcılarının geleceği şekillendirmede alacağı tavrı belirlemede kritik bir aşamadır. Onları farklı yaşam tarzları, kültürler ve beklentiler hakkında bilgilendirerek ve çeşitli altyapılardan gelen bireylerden ekipler kurarak, yapay zekâ ürünlerinde bilerek veya bilmeyerek hatalar yapılmasının önüne geçilebilir. Tıpkı bir bahçıvanın farklı bitkilere farklı şekilde bakıp, büyütmeyi öğrenip sonuçta ahenk içinde güzel bir bahçe ortaya koyması gibi bir işlev sağlanabilir.
| |
| | |
| Geliştiricilerin dışında verilere de bakmakta fayda vardır. Yapay zekâ sistemleri, sınırlı veri setleriyle çalıştığında yalnızca hikâyenin belli bir kısmını sunar. Bilgisayar ve akıllı telefon uygulamalarımızı nasıl sürekli güncelliyorsak, yapay zekâ için de farklı bakış açılarıyla verileri sürekli güncel tutmaya çalışmalıyız ki bu ürünler de hem faydalı hem de fonksiyonel kalabilsinler. Yapay zekâ sistemlerinin işleyişini şeffaf hale getirmek ise ele alınması gereken diğer bir hassas konudur. Şu an kullanılan sistemlerin çoğu üzerinde kalın bir sis perdesi bulunmaktadır, hatta bunlardan elde edilen sonuçların neden o şekilde olduğunu izah etmek üreticileri için bile mümkün olmamaktadır. Bu sistemlere bu belirsizlikleri yüzünden kara kutu (black box) ismi bile verilmektedir. Dolayısıyla karar mekanizmalarının ve çalışma prensiplerinin açık ve şeffaf bir şekilde ortaya konması yapay zekâya karşı güven inşa edilmesini netice verebilir ve olası adaletsizliklere müdahale etmemizi kolaylaştırır.
| |
| | |
| Bu alanda tekelleşme ve gücün belli şirket veya ülkelerde toplanması da ciddi tehlikelerden biridir. Yönetim süreçlerine çeşitli grupları dahil etmek, yalnızca birkaç güçlü şirketin veya ülkenin değil, birçok farklı bakış açısını temsil eden kişi ve kurumların karar verme sürecine katılmasını sağlamak elzemdir. Bu, yapay zekânın daha adil ve kapsayıcı hale gelmesine yardımcı olacaktır.
| |
| | |
| Yaşanılan aksaklıklarda önemli bir pay da insanlık tarihinde hep var olan ve savaşların, kavgaların, huzursuzlukların kaynağı açgözlülük, kısa zamanda çok gelir elde etme, rakipleri geçme gibi düşüncelere aittir. Teknoloji şirketleri, genellikle kâr amacı güderek, ürünleri piyasaya aceleyle sürmektedir. Bu durum, maalesef ciddi ve kaçınılmaz hatalara yol açmaktadır. Ürünlerin piyasaya sürülmeden önce iyice test edilmesini, etik değerlendirmelerin yapılmasını ve tüm süreçlerin detaylı bir şekilde gözden geçirilmesini zorunlu hale getirecek sıkı kontrol ve güvenlik önlemleri alınmalıdır. Bu şekilde, aceleci ürün lansmanları yavaşlatılabilir ve yapay zekanın olumlu potansiyeli daha iyi bir şekilde değerlendirilebilir.
| |
| | |
| Sonuç olarak görev hepimize düşmektedir. Hem üreticilerin hem de tüketicilerin gerekli farkındalığa ulaşması ve sorumluluklarının bilincinde olarak teknolojiden faydalanması bizleri kıyamet senaryolarından kurtaracak ve güzel bir gelecek vaad edecektir.
| |
| | |
| == Kaynaklar ==
| |
| Algorithmic Justice League. "AJL". (2016). Retrieved from Website: <nowiki>https://www.ajl.org/</nowiki>
| |
| | |
| Allan, K., Oren, N., Hutchison, J., and Martin, D. (2021). In search of a Goldilocks zone for credible AI. Scientific Reports, 11(1), 1–13. <nowiki>https://doi.org/10.1038/s41598-021-93109-8</nowiki>
| |
| | |
| Chong, L., Zhang, G., Goucher-Lambert, K., Kotovsky, K., and Cagan, J. (2022). Human confidence in artificial intelligence and themselves: The evolution and impact of confidence on the adoption of AI advice. Computers in Human Behavior, 127, 107018.
| |
| | |
| Ed-Driouch, C., Mars, F., Gourraud, P.-A., and Dumas, C. (2022). Addressing the Challenges and Barriers to the Integration of Machine Learning into Clinical Practice: An Innovative Method to Hybrid Human-Machine Intelligence. Sensors, 22(21), 8313.
| |
| | |
| Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin's Press.
| |
| | |
| Fowler, G. A. (2024). TurboTax and H&R Block now use AI for tax advice. It's awful. Retrieved from Washington Post, <nowiki>https://www.washingtonpost.com/technology/2024/03/04/ai-taxes-turbotax-hrblock-chatbot/</nowiki>
| |
| | |
| Gottlieb, I., and Poritz, I. (2024). Popular AI Chatbots Found to Give Error-Ridden Legal Answers. Retrieved from Bloomberg Law, <nowiki>https://news.bloomberglaw.com/business-and-practice/legal-errors-by-top-ai-models-alarmingly-prevalent-study-says</nowiki>
| |
| | |
| Guardian, 2015, Google's solution to accidental algorithmic racism: ban gorillas <nowiki>https://www.theguardian.com/technology/2018/jan/12/google-racism-ban-gorilla-black-people</nowiki>
| |
| | |
| Kantayya. S. (2020) Coded Bias. Retrieved from <nowiki>https://www.codedbias.com/</nowiki>
| |
| | |
| Lee, S., Lee, M., and Lee, S. (2023). What if artificial intelligence becomes completely ambient in our daily lives? Exploring future human-AI interaction through high-fidelity illustrations. International Journal of Human-Computer Interaction, 39(7), 1371-1389.
| |
| | |
| McMahon, L., and Kleinman, Z. (24 May 2024). Glue pizza and eat rocks: Google AI search errors go viral, Retrieved from bbc.com, <nowiki>https://www.bbc.com/news/articles/cd11gzejgz4o</nowiki>
| |
| | |
| Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. New York University Press.
| |
| | |
| Offenhartz, J., (2024). NYC's AI Chatbot was Caught Telling Businesses to Break the Law. The city isn’t taking it down. Retrieved from AP News, <nowiki>https://apnews.com/article/new-york-city-chatbot-misinformation-6ebc71db5b770b9969c906a7ee4fae21</nowiki>
| |
| | |
| O’Neil, C., (2017). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Penguin Books.
| |
| | |
| Orhan, Z. 2024, Artificial Intelligence: Friend or Foe? It is Up to Us, 01 May 2024, Fountain Magazine, Issue 159 (May-June 2024), (pp. 7-13), Retrieved from, <nowiki>https://fountainmagazine.com/all-issues/2024/issue-159-may-jun-2024/artificial-intelligence-friend-or-foe-it-is-up-to-us</nowiki>
| |
| | |
| Reverberi, C., Rigon, T., Solari, A., Hassan, C., Cherubini, P., and Cherubini, A. (2022). Experimental evidence of effective human-AI collaboration in medical decision-making. Scientific Reports, 12(1), 14952.
| |
| | |
| Schemmer, M., Kuehl, N., Benz, C., Bartos, A., and Satzger, G. (2023, March). Appropriate reliance on AI advice: Conceptualization and the effect of explanations. In Proceedings of the 28th International Conference on Intelligent User Interfaces (pp. 410-422).
| |
| | |
| Sonko, S., Adewusi, A. O., Obi, O. C., Onwusinkwue, S., and Atadoga, A. (2024). A critical review towards artificial general intelligence: Challenges, ethical considerations, and the path forward. World Journal of Advanced Research and Reviews, 21(3), 1262-1268.
| |
| | |
| Trabelsi, M. A. (2024). The impact of artificial intelligence on economic development. Journal of Electronic Business and Digital Economics.
| |
| | |
| Xie, J., Wang, Z., Yu, Z., Ding, Y., and Guo, B. (2024). Prototype Learning for Medical Time Series Classification via Human–Machine Collaboration. Sensors, 24(8), 265
| |
| | |
| === Biyografi ===
| |
| Dr. Zeynep Orhan, lisans ve lisansüstü eğitimini Bilkent Üniversitesi ve İstanbul Üniversitesi Bilgisayar Mühendisliği Bölümler- inde tamamlamıştır. Ana araştırma alanları makine öğrenimi, doğal dil işleme ve veri analizidir. 28 yılı aşkın eğitim hayatında Bilkent Üniversitesi, Fatih Üniversitesi ve İstanbul Üniversitesi Bilgisayar Mühendisliği, Bosna Hersek International Burch University Information Technologies, Union College Computer Science ve University of North Texas Advanced Data Analytics Bölümlerinde çalışmıştır. Dijital ortamda üretilen metin ve geleneksel olmayan verilerin analizini gerçekleştiren, kullanıcı dostu, pratik ve zaman kazandıran çözümler sunan uygulamalar geliştirmektedir. Araştırma gündeminde duygu analizi ve fikir madenciliği sistemleri, sağlık (tanı, takip, tedavi) uygulamaları, e-öğrenim araçları, e-devlet hizmetleri ve ilgili akıllı strateji sistemleri bulunmaktadır.
| |
| | |
| = Makale VII: =
| |
| | |
| == Yapay Zekanın Zorlukları: Ceza Hukuku Örneği ==
| |
| Hakan Veli
| |
| | |
| == Özet ==
| |
| Yapay zeka (YZ), sağlık, finans, eğitim ve enerji dahil olmak üzere birçok sektörde devrim yaratarak karar verme yeteneklerinin verimliliğini ve etkinliğini artırmıştır. Ceza hukuku alanında, YZ, adalet hizmetlerine hızlı erişimi kolaylaştırmış ve güvenlik güçleri, ceza mahkemeleri ve hapishanelerle ilgili süreçlerin ve uygulamaların otomasyonunu artırmıştır [1]. Özellikle, tahmine dayalı analitik görevleri, suç noktalarını öngörmek, tekrar suç işleme riskini değerlendirmek ve duruşma öncesi serbest bırakma kararlarına yardımcı olmak için polislik ve ceza mahkemesi sistemlerine entegre edilmiştir. Bu ilerlemeler, kaynakların daha etkili bir şekilde tahsis edilmesine ve kamu güvenliğinin artırılmasına yardımcı olur.
| |
| | |
| Bu makale, ceza hukuku alanında YZ uygulamalarının zorluklarını tartışmaktadır. Bu alan çeşitli hizmetlerde YZ dan fayda sağlasa da, zorlukları öncelikle iki yaygın uygulama alanında örnekledik: tahminsel önleyici polislik ve suçta tekerrür.
| |
| | |
| Özetle, tahminsel önleyici polislik uygulamaları, suçu meydana gelmeden önce önlemek için gerekli tedbirleri almayı amaçlar. Bu uygulamalar genellikle (1) yüksek suç riski taşıyan yerler ve zamanlar, (2) gelecekte suç işleme potansiyeli yüksek bireyler, (3) geçmiş suçluların suç kayıtlarından elde edilen profiller, (4) gelecekte suçların mağduru olma olasılığı yüksek grup veya bireyleri belirlemek için YZ dahil analitik araçlar kullanır [2].
| |
| | |
| Suçta tekerrür öngörüsü, hükümlü kişinin tekrar suç işleyip işlemeyeceğini tahmin eder [3]. Bu tür tahminler, şartlı tahliye, denetimli serbestlik veya ceza kararlarını büyük ölçüde etkileyebilir. Bir örnek, ABD'deki mahkemelerde kullanılan ve Alternatif Yaptırımlar için Cezaevi Suçlu Yönetimi Profilleme (COMPAS) adlı yazılımdır. Bu yazılım, yargıçların ve şartlı tahliye memurlarının ön duruşma gözaltı ve serbest bırakma konusundaki kararlarında önemli bir rol oynar. Kanada, Birleşik Krallık ve Hollanda da benzer yazılımları aynı amaç için kullanılmaktadır [4].
| |
| | |
| Bariz avantajlarına rağmen, ceza hukuku alanında YZ uygulamaları çeşitli mühendislik, etik ve yönetmelik meseleleri ile karşı karşıyadır. YZ, tüm alanlardaki sorunları sorunsuz bir şekilde çözen bir mucize mühendislik aracı değildir. Geliştirilen çözümlerin doğruluğu ve güvenilirliği, YZ mühendisliğinde var olan en iyi uygulamalar kullanılmadan garanti edilemez. Optimal bir çözüm elde edildikten sonra, YZ kararlarının süreçlere ve prosedürlere entegre edilmesi çok önemlidir. Bazı durumlarda, bu süreçler, sorunların kök nedenlerini ele almak için güncellemeler gerektirebilir. Dolayısıyla, YZ yi adapte etmek yalnızca mühendislik çözümlerini tanıtarak değil, aynı zamanda mevcut iş akışlarını, politikaları, uygulamaları ve çalışma kültürünü yeniden değerlendirerek ve rafine ederek gerçekleştirilebilir. Etik kaygılar, YZ algoritmalarındaki olası önyargılar, karar verme süreçlerinde şeffaflık ve mahremiyet ile sivil özgürlükler üzerindeki etkiler etrafında döner. Hukuki gereklilikler ve temel hakların korunması, henüz net düzenlemelerin benimsenmediği bir alanda önemli bir zorluk teşkil eder.
| |
| | |
| Makalenin geri kalan kısmı, her bir zorluğu tanıtmakta ve kısaca açıklamaktadır.
| |
| | |
| == Doğruluk ve Güvenilirlik Sorunları ==
| |
| Ceza hukukunda kullanılanlar da dahil olmak üzere YZ tabanlı araçlar hakkında ilk endişe, bunların doğru çalışıp çalışmadığı ve temel beklentileri karşılayıp karşılamadığıdır. Bu araçların performansının veri seti kalitesi, en uygun yöntemin seçimi, algoritma parametrelerinin optimize edilmesi veya sonuçların ilgili metrikler ve veri setleri ile karşılaştırılması gibi çeşitli faktörlere bağlı olduğu unutulmamalıdır. ML (Machine Learning) modellerinin her alanda makul bir şekilde performans göstermesi garanti edilemez ve daha karmaşık modeller her zaman daha yüksek performans anlamına gelmez. Modeller, bir veri setinde mükemmel sonuçlar verebilirken, aynı problem alanında olmasına rağmen başka bir veri setinde başarısız olabilir. Bu nedenle, özellikle yüksek riskli uygulamalarda, çeşitli veri setleriyle titiz model denetimi yapılmalıdır.
| |
| | |
| Örneğin, COMPAS'ın şiddet suçu işleyen suçlular için tahmin oranının %20 civarında düşük olduğu bulunmuştur. Başka bir çalışma, COMPAS'ın karar doğruluğunun, az ya da hiç ceza hukuku uzmanlığı olmayan insan uzmanlardan daha iyi olmadığını belirlemiştir [5]. Bu çalışma ayrıca, COMPAS tarafından kullanılan 137 özellik yerine (yani, bir özellik, kişinin yaşı gibi, konuyla ilgili bireysel bir bilgi parçasıdır), yalnızca iki özelliği, yaş ve önceki mahkumiyetlerin toplam sayısını kullanan basit bir tahmin algoritması ile benzer doğruluk seviyelerinde kararlar verebildiğini bulmuştur. Bir araştırma çalışması, tekrar suç işleme tahmin modellerinin bir lokasyonun veri setinde iyi performans gösterebileceğini ancak başka bir lokasyonun veri setinde aynı performansı gösteremeyebileceğini bulmuştur [4].
| |
| | |
| == Tasarım Kararları ==
| |
| YZ modellerinin kararları sadece eğitim veri setlerine bağlı değildir. Eğitim sürecine rehberlik eden alan uzmanları tarafından çeşitli tasarım hususları gerçekleştirilir. Önemli kararlardan biri, ele alınan alana uyarlanması gereken metriklerin seçilmesidir. Ancak, belirli bir alanda bile uzmanlar arasında bir fikir birliğine varmak mümkün olmayabilir. Yönetmelikler veya yasal çerçeveler de metrik seçimine katkıda bulunabilir.
| |
| | |
| Yanlış pozitifler ve yanlış negatifler, metrik formülünü oluşturan ana değişkenlerdir. Bir YZ algoritmasının, bir kişinin gelecekte suç işleme potansiyeli açısından yüksek risk taşıyıp taşımadığını sınıflandırdığını varsayalım. Algoritma, A kişisini yüksek risk olarak bulursa ancak gerçekte o kişinin böyle bir riski yoksa, bu yanlış pozitif olarak adlandırılır. Tersine, algoritma B kişisinin herhangi bir risk taşımadığını bulursa ancak o kişi gelecekte suç işleyecekse, bu karar yanlış negatif olarak sınıflandırılır.
| |
| | |
| İdeal olarak, bir algoritmanın her iki değişkeni de minimize etmesi beklenir. Ancak, tasarımcı algoritmaya hangi yanlış sınıflandırmanın daha fazla cezalandırılacağını belirtmelidir. Bu tür bir önceliklendirme, alan bağlamına bağlı olarak çeşitli artı ve eksilere sahiptir. Yanlış negatifler, sistemin ana amacına ulaşmasını engeller. Bu nedenle, algoritma riskli kişileri tanımlamazsa, kullanışlı olmayacaktır. Diğer tarafta, yanlış pozitifler gereksiz önlemler alınmasına neden olacak, kaynakların israfına yol açacak ve polisin dikkatini gerçek sorunlardan uzaklaştırabilecektir. Bu karar, yanlış sınıflandırılmış kişi için önemli yükler (yani, duygusal, sosyal veya mali yükler) yaratacak ve sivil hakların ve mahremiyetin ihlali ile ilgili endişelere yol açabilecektir. İlk bakışta, yanlış negatifleri minimize etmek YZ çözümünün amacına ulaşmak için daha makul görünebilir. Ancak, yanlış pozitiflerin neden olduğu yükleri göz önünde bulundurarak, metrik seçimi zor bir karar olarak kalır.
| |
| | |
| == Adalet ve Algoritmik Önyargı ==
| |
| Karar vermede adalet, “bir bireye veya gruba karşı doğuştan gelen veya sonradan kazanılmış özelliklerine dayalı herhangi bir önyargı veya ayrımcılığın olmaması” olarak tanımlanır [6]. YZ teknolojisi hakkında yaygın bir yanlış anlama, YZ modellerinin insan olmadığı için bireylere veya gruplara karşı önyargılı olmadığıdır. Bu yanlıştır çünkü YZ modelleri çeşitli nedenlerle adaleti sağlamayabilir, buna eğitim veri seti sınırlamaları veya algoritmaların doğal özellikleri dahildir [6]. Çoğu YZ algoritması, derin öğrenme gibi karmaşık olanlar da dahil olmak üzere, eğitim veri setlerindeki yetersiz temsil edilen konu türleriyle ilgili kararlar verirken zayıf performans gösterir. Bu, YZ tabanlı bir ceza hukuku aracı, örneğin tekrar suç işleme tahmin yazılımının, veri setindeki temsil sınırlı olduğunda bir grup insanı gereğinden fazla riskli bulabileceği anlamına gelir. Bu veri seti önyargısına ek olarak, literatür çeşitli diğer önyargı kaynaklarına dikkat çeker [6].
| |
| | |
| Başka bir yanlış anlama, yüksek performans gösteren modellerin yüksek düzeyde adalet sağlayabileceğidir. YZ modelleri genellikle yukarıda tartışılan performans metriklerine karşı optimize edilir. Ancak, adalet değerlendirmesi farklı bir değerlendirme bakışı gerektirir, bu da model geliştirme sırasında uygun adalet metriklerinin kullanılması gerektiği anlamına gelir [4]. Örneğin, tekrar suç işleme tahmin yazılımı COMPAS, Afrikalı-Amerikalı suçlular için yanlış pozitif tahmin oranlarının, beyaz tenli suçlulara göre daha yüksek olduğunu göstermiştir. Başka bir çalışma, aynı veri setinde yaş grupları için benzer bir önyargı tespit etmiş ve bunun nedenini COMPAS modelinden ziyade veri üretimine atfetmiştir [7]. Bununla birlikte, bir önyargı olduğu tespit edilmiştir ancak neden kaynaklandığı konusunda bir fikir birliği yoktur.
| |
| | |
| == İnsan Katılımı ve Hesap Verebilirlik ==
| |
| Otomasyon, insanları denklemin dışına mümkün olduğunca çıkarmayı amaçlayan mühendislik çözümlerinin itici güçlerinden biridir. Yapay zeka (YZ), bu hedefe ulaşmak için umut verici bir mühendislik aracıdır. Bu ideal mühendislik durumu insanlık adına tesis edilmiş olsa da, temel sorulardan biri, insanları bu otomatik çözümlerden ne ölçüde ayırabileceğimizdir. Örneğin, kendi kendine giden araçlar insan katılımı olmadan hizmet verebilir. Ancak, önemli bir yaralanmayla sonuçlanan bir olay durumunda, en azından bir insanın bunu araştırması veya olaydan kimin sorumlu tutulacağına karar vermesi gerekecektir. Bu potansiyel olaylardan sonra gerçekleştirilecek tüm bu eylemlerin tamamen otomatikleştirilmesi veya insanların makinelerin tüm bu kararları vermesine izin vermesi daha az olasıdır. En azından, nihai kararı bir insanın vermesi beklenebilir.
| |
| | |
| == Kararın Şeffaflığı ==
| |
| YZ modelleri genellikle bilgilerini karmaşık formlarda biriktirir ve depolar, bu da insan uzmanlar tarafından anlaşılmayabilir. Çoğu model, bir insanın modelin kararının arkasındaki nedeni anlayamayacağı şekilde kara kutu tarzında çalışır (yani, açıklanabilirlik veya yorumlanabilirlik eksikliği). Ancak, ceza hukuku da dahil olmak üzere çeşitli alanlarda, kararların gerektiğinde itiraz edilebilmesi veya denetlenebilmesi için mümkün olduğunca şeffaf olması gerekir. Bazı modeller (örneğin karar ağaçları) daha iyi anlaşılabilir ve daha yorumlanabilir kabul edilse de, çeşitli yüksek performanslı modeller (örneğin derin öğrenme yöntemleri) bu özelliğe sahip değildir.
| |
| | |
| Eğer yorumlanabilir YZ modelleri performans beklentilerini karşılıyorsa, mühendislikteki en iyi uygulama bu modelleri tercih etmektir. Ancak, karmaşık modeller tek seçenek olduğunda, kararın yaklaşık olarak anlaşılabilmesi için YZ modeline ek bir açıklanabilirlik algoritması uygulanabilir. Bu açıklanabilirlik algoritmaları her zaman doğru anlamayı sağlamasa da, uygulayıcılar tarafından yaygın olarak kullanılır. Ciddi miktarda bir YZ literatürü, bu tür algoritmaların araştırma ve geliştirilmesine odaklanır. Tekrar suç işleme tahmin probleminin yorumlanabilir modellerle çözülebileceği gösterilmiştir [4].
| |
| | |
| == Mahremiyet ve Veri Koruma ==
| |
| Mahremiyet tehditlerine karşı veri koruması, kişisel olarak tanımlanabilir bilgilerin kötüye kullanım ve ihlallere karşı güvence altına alınmasını sağlar. Hükümetler, sıradan bir kullanıcı ile kişisel verileri depolayan ve işleyen bir kuruluş arasındaki asimetrik gücü dengelemek için mahremiyeti yüksek derecede düzenler (örneğin, GDPR). Suç kayıtları, bireyler hakkında hassas veriler içerir, bu nedenle dijital yaşamda mahremiyeti korumaya yönelik düzenlemeler altında sıkı sınırlamalara tabidir.
| |
| | |
| Bir YZ çözümü, modelin eğitim ve operasyonel aşamalarında mahremiyet kontrollerini uygulamalıdır. Model, kişisel olarak tanımlanabilir bilgileri içermeyen bir veri setiyle eğitilmelidir. Bu kısıtlama, özellikle kötü niyetli aktörlerin YZ modellerine özel saldırılar düzenleyerek bu tür bilgileri elde edebilecekleri için önemlidir. Operasyonel aşamada, kullanıcılar genellikle kararlar almak için YZ modellerine hassas bilgilerini sunabilirler. Kullanıcı ve sistem tasarımcıları, saldırganların modelle kullanıcı etkileşimini tehlikeye atmaması için çeşitli mahremiyet kontrolleri uygulamalıdır.
| |
| | |
| == Gerçek Sorunu Çözmek ==
| |
| Gelişmiş veri analitiği ve YZ teknolojilerinin mevcudiyetine rağmen, bu çözümler tarafından verilen kararları sahada amaçlanan hedeflere ulaşmak için kullanmak daha fazla açıklama gerektirir. Örneğin, önleyici polislik araçları tarafından verilen kararlar, etkili ve uygulanabilir önleyici tedbirlerin uygulanmasına yol açmalıdır. Araştırma kanıtları, bu tür önleyici polislik uygulamalarının suç önleme duruşunu iyileştirdiğini tutarlı bir şekilde desteklememektedir [8]. Potansiyel bir suçun zaman ve yer tahmini, polis departmanlarının çalışma prosedürlerine ve yeteneklerine uygun olmayabilir. Tahmin, potansiyel suçun bir hafta sonra gerçekleşebileceğini belirtirse, bu uzun bir süredir çünkü polis prosedürleri daha kısa vadeli eylemler için daha uygundur [8]. Analitik araçların kararlarını operasyonel uygulanabilirlik ve etkinlik bağlamında değerlendirmek önemlidir. Ayrıca, bu araçların mevcut iş akışlarına sorunsuz bir şekilde entegre edilmesi, kolluk kuvvetlerinin çabalarını tamamlayacak şekilde olmalıdır.
| |
| | |
| == Sonuç ==
| |
| Bu makale, YZ tabanlı ceza hukuku çözümlerinde gözlemlenen zorlukları ayrıntılı olarak ele alır. Zorluk listesi eksiksiz kabul edilemese de, çeşitli mühendislik, etik ve yönetmelik meseleleri kısaca tanıtılmış ve tartışılmıştır. YZ'nin hedef alana uygulanmasının sadece bir mühendislik sorunu olmadığını belirtmek önemlidir. Bu tür uygulamaların başarısı, çeşitli özgeçmişleri olan karar vericilerin, etik ve hukuk alanlarındakiler dahil olmak üzere, katkılarını içeren bütünsel bir bakış açısıyla sağlanabilir. Odak, yalnızca mühendislik çözümü üzerinde değil, aynı zamanda çözümün süreçlere ve prosedürlere dahil edilmesi üzerinde olmalıdır.
| |
| | |
| == Kaynaklar ==
| |
| [1] A. Zavrˇsnik, “Criminal justice, artificial intelligence systems, and human rights,” in ERA forum, vol. 20, no. 4. Springer, 2020, pp. 567–583.
| |
| | |
| [2] W. L. Perry, Predictive policing: The role of crime forecasting in law enforcement operations. Rand Corporation, 2013.
| |
| | |
| [3] M. M. Farayola, I. Tal, R. Connolly, T. Saber, and M. Bendechache, “Ethics and trustworthiness of ai for predicting the risk of recidivism: A systematic literature review,” Information, vol. 14, no. 8, p. 426, 2023.
| |
| | |
| [4] C. Wang, B. Han, B. Patel, and C. Rudin, “In pursuit of interpretable, fair and accurate machine learning for criminal recidivism prediction,” Journal of Quantitative Criminology, vol. 39, no. 2, pp. 519–581, 2023.
| |
| | |
| [5] J. Dressel and H. Farid, “The accuracy, fairness, and limits of predicting recidivism,” Science advances, vol. 4, no. 1, p. eaao5580, 2018.
| |
| | |
| [6] N. Mehrabi, F. Morstatter, N. Saxena, K. Lerman, and A. Galstyan, “A survey on bias and fairness in machine learning,” ACM computing surveys (CSUR), vol. 54, no. 6, pp. 1–35, 2021.
| |
| | |
| [7] C. Rudin, C. Wang, and B. Coker, “The age of secrecy and unfairness in recidivism prediction,” Harvard Data Science Review, vol. 2, no. 1, p. 1, 2020.
| |
| | |
| [8] J. Saunders, P. Hunt, and J. S. Hollywood, “Predictions put into practice: a quasi-experimental evaluation of Chicago's predictive policing pilot,” Journal of experimental criminology, vol. 12, pp. 347–371, 2016.
| |
| | |
| = Bulmaca Köşesi = | | = Bulmaca Köşesi = |
| [[Dosya:Bulmaca.jpg|orta|küçükresim|1225x1225pik]] | | [[Dosya:Bulmaca.jpg|orta|küçükresim|1225x1225pik]] |
