Üniversitelerde Ne Olabilir: Akademik Kurumlar Öncelikli Tercih Oluyor?

Yapay zeka ajanlarının kararlarından kim sorumlu? Başvuru sahipleri yapay zeka önyargısından nasıl korunabilir ve bir “kutu içi” (black box) olgunun merkezde olduğu bir davada usul adaleti ne anlama gelir?

Bunlar net yanıtları olmayan, ancak üstesinden gelinmesi gereken zorlu sorular; diyor Ifeoma Ajunwa, Harvard’ın Berkman Klein Internet & Merkezi’nde fakülte üyesi.

Bu düzenlenmiş röportajda, aynı zamanda Emory Hukuk Fakültesi’nde Asa Griggs Campbell Hukuk Profesörü, Emory’nin Yapay Zeka ve İşin Geleceği programının kurucu direktörü ve Fortune 500 şirketlerinde etik danışmanı olan Ajunwa, akademisyenlerin hukukun yeni bir alanında nasıl ilerlediğini açıklıyor.

Gazette: Yapay zeka çağı ilk ayağa kalktığında, hukuk mesleği yapay zeka ve hukuk hakkında düşünmeyi nasıl başladı? Bu son dört-beş yılda nasıl evrildi?

Ifeoma Ajunwa: İlk hukuk soruları gerçekten yapay zekanın bir “kutu içi” (black box) fikri etrafında dönüyordu; bu da hukuk için oldukça sorunlu, çünkü kimin sorumlu olduğunu anlamak isteriz. Yakın nedenselliği (proximate cause) anlamak isteriz ve bu da bir “kutu içi”nin oldukça zorlaştırabileceği bir şey. [Cornell Üniversitesi Hukuk Profesörü] Frank Pasquale gibi öne çıkan akademisyenlerin “The Black Box Society” (Kutu İçi Toplum) kitabını yazdığını gördük; bu kitap yapay zekanın finans sektöründeki rolünü sorguluyordu, özellikle krediye erişim ve veri aracılarının dahil olabileceği gölgeli finansal ticaret gibi konularda.

“Hukuk, toplumda daha iyi bir yapay zeka vizyonunun gerçekleşmesine nasıl bir rol oynayabilir?”

Ifeoma Ajunwa

Ardından sorumluluk (liability) konusunda sorular sormaya başladık. Yapay zeka, örneğin konut veya işe alım konusunda bir aracı olarak hizmet verirken mevcut yasalar nasıl işler? Hukuk, eşit fırsat ve eşit erişim hedeflerini korumaya devam ederken nasıl iyi işler? Kimi sorumlu tutarız?

Üçüncü dalga, şu anda AI’nın bütünüyle nasıl yönetileceği düşüncesi. Sorumluluk, özellikle artık kontrolden çılabilen AI ajanlarına sahip olduğumuz için hâlâ geçerliliğini koruyan ciddi bir endişe. Ancak daha büyük bir tartışmaya, tasarım ve uygulama biçimine, hangi kullanım alanlarını izin verip hangilerini yasaklamamız gerektiğine, AI’nın amaçlandığı gibi çalışmasını sağlamak için hangi kurallar ve düzenlemelerin yer alması gerektiğine geçebiliriz. Hukuk, toplumda daha iyi bir AI vizyonunun gerçekleşmesine nasıl bir rol oynayabilir?

Şimdi sorunu size geri döndürmem gerekiyor: Hukuk, toplumda daha iyi bir AI vizyonunun gerçekleşmesine nasıl rol oynayabilir?

Ne yazık ki, Amerikan hukukunun çoğu ex post (sonradan) uygulamaya tutkulu — yani korkunç bir şey oluyor, mahkemeye gidiyoruz, dava açıyoruz ve kimin sorumlu olduğunu öğreniyoruz, belki de belirli bir meduni yaptırım uygulanıyor. Daha fazla vurguyu ex ante (önceden) düzenlemeye koymalıyız — düzenleyici sistemleri, onlara ihtiyaç duymadan önce elinde bulundurmalıyız. AI düzenlemesi veya AI yönetimi için çeşitli giriş noktaları var; bu sadece yasama organında başlayıp durmamalı.

AI yönetimini eğitim düzeyinde düşünebiliriz; bu, pozisyonumda sık sık düşündüğüm bir konu: Öğrencilerin AI’nın toplumdaki rolünü ve bunun gizlilik kaygılarımızın, etik kaygılarımızın bazılarıyla nasıl kesişebileğini anlamaları. Korumak istediğimiz temel hukuk ilkeleri nelerdir ve AI teknolojilerini bu ilkelerle uyumlu olmasını sağlamak için onları nasıl düzenleyebiliriz?

Eğitim ötesinde, AI tasarımcılarının kendisini düşünmek istiyoruz. AI’nın sadece kâr değil, toplum için gözeten bir sektör normu nasıl teşvik edilebilir? Ve benzeri diğer konular.

AI’nın istihdam hukuku üzerindeki etkileri hakkında, 2023 yılında çıkan “The Quantified Worker” kitabında da dahil olmak üzere kapsamlı bir şekilde yazdınız. Bu çalışmayla ortaya attığınız temel argümanı bize adım adım anlatabilir misiniz?

Anayasa’dan önce bile, Amerika’nın temellerinin atıldığı temel ilkelerden biri, insanların emeklerinden kâr elde edebilecekleri bir yer olmasıydı — doğumları ne olursa olsun, herkes alın teriyle kendi yolunu açabiliyordu. Bence yapay zeka ve büyük veri biçimlerinin diğerleri bu iş sözleşmesini eksik yerine koyuyor. İşçiler alındığında, emeklerini para için değiştirdikleri söyleniyor; ama şimdi kişisel verilerini de teslim etmeleri isteniyor. Bunun karşılığı nerede?

Yasal altyapımın çoğu John Rawls gibi yasa felsefecilerine dayanıyor: yasalar oluştururken toplumun en savunmasızlarını düşünmek zorunda olduğumuz fikri. Bu yapay zeka devriminde, toplumun en savunmasızlarını daha da dezavantajlı hale mi getiriyoruz, yoksa bu insanların gelişebilmesi için yasalarımızı güçlendirmenin yolunu mu düşünebiliriz?

Bu konuda yazdıklarınızı, “kurban koçu” fikri hatırlatıyor; bunun hakkında biraz daha konuşabilir misiniz?

Silicon Valley’in ilk günlerine döndüğümüzde, “Hızla hareket et ve şeyleri kır” sözü vardı. Ne yazık ki, o “şeyler”in insanlar haline gelebileceğini öğrendik. Özellikle yapay zeka ve iş alımında gördüğüm şey, kurbanların azınlıklar, kadınlar olmasıydı. Birçok çalışma, Afro-Amerikalı işçilerin en fazla etkilendiğini gösteriyor. Şu anda yapay zeka iş alımındaki en önemli davada, Mobley v. Workday davasında, Afro-Amerikalı bir erkeğin yer almasının tesadüf olmadığını düşünüyorum — ve onun hukuk ekibi bu davayı şimdi bir grup davası olarak tescil ettirmeye çalışıyor.

Özünde, o Silicon Valley sözü, ilerlemek için bazı fedakarlıklar yapmanız gerektiği anlamına geliyor. Benim sorum, kimin fedalı olduğu. Fedakarlığın toplumda eşit paylaşıldığı bir durum başka şey. Fedakarlığın hep aynı insanların, üst üste, tekrar tekrar fedalı olması başka bir şey. “Hızla hareket et ve şeyleri kır”ın, hala eşit fırsatları olan bir toplum istediğimiz fikrini görmezden gelmemesi gerektiğini düşünüyorum.

“Aslında bu Silikon Vadisi atasözü, ilerlemek için bazı fedakarlıklar yapmanız gerektiği anlamına geliyor. Sorum şu: Kim fedarlanıyor?”

Ifeoma Ajunwa

Bir grup veya belirli grupların orantılı olarak zarar görmesinin adil olmadığı konusunda hemfikirim, ancak bir fedakarlığın eşit şekilde üstlenilmesiyle ne demek istediğinizi kesin olarak bilmiyorum. 

Haklısınız: Toplum olarak yapmayı göze alamayacağımız bazı fedakarlıklar var. Örneğin, Meta’ya karşı, özünde çocukları algoritmaya fedetmekle ilgili davanın açılması iç açıcıydı. “Tüm çocuklar eşit şekilde fedediliyor, o yüzden sorun yok” asla dememeliyiz. Bu doğru değil. Çocuklarımızın teknolojik ilerlemenin adı altında fededilmesini istemiyoruz. 

Bu dönemde birçok insanın neden bu kadar huzursuz hissettiğinin sebeplerinden birinin, yapay zeka ve tüm etik sorularının, dijital olarak aracılık edilen çağımızda bulunması zor olan bir tür düşünceli tartışma gerektirmesi olduğunu düşünüyor musunuz? 

Asıl mesele tam da bu: Nasıl etkin biçimde yapay zekayı düzenleyebiliriz, eğer yönetim konusunda, herhangi bir yönetim konusunda hemfikir olamıyorsak? Devrime benzeyen bir teknoloji edinmiş gibiyiz ve bununla başa çıkıp kendi yararımız için yönlendirmemiz gerekiyor, ancak birleşik değilseniz bunu nasıl yapabilirsiniz? Toplum olarak yankı odalarımızdan ve bunları pekiştiren algoritmelerden çıkmalıyız.

Ne yazık ki, bu ortamda, son derece nüanslı inançlara sahip insanlar bile birbirleriyle düşünceli konuşmalar yapamayabilir. Bunu, bazı insanların bunu açıkça partizan bir mesele olmadığı halde partizan bir mesele haline getirmeye çalıştığı yapay zeka yönetim tartışmasına da yansıdığını görüyorum. İnsanlar olarak, yapay zekayı nasıl düzenleyeceğimizi bulmalıyız; bu sıradan bir mantık cümlesi. Gerçekten de, bu kadar çok güvenlik ihlali olayıyla, düzenlemeyi varoluşsal bir ihtiyaç olarak değerlendirmeliyiz. 

Eğer sosyal medyada değilse, bu tür düşünceli konuşmaların en etkili biçimde nerede gerçekleştiğini görüyorsunuz? 

Bazı bölgelerde bunu üniversitelerde görüyorum. Örneğin kamu yararı için yapay zeka üzerinde çalışan kurular ve altkurullar bulunan Berkman Klein Merkezi gibi yerlere gittiğimde bunu takdir ediyorum.

Birçok inancın, dinin ve ideolojinin bulunduğu, aynı zamanda din ile devlet arasındaki ayrılığın olduğu bir ülkede, üniversitenin bir nevi kiliseye dönüştüğünü düşünüyorum: Toplumları ahlaki tartışmalar için, bir toplumun en iyi nasıl yönetilebileceğine dair entelektüel sorgulamalar için bir araya getirme işlevini yerine getiriyor. Üniversite bu görevi üstlenmek zorunda, çünkü aksi takdirde hepimizin kendi kendine kapanmış topluluklarında yaşadığı, parçalanmış bir toplumla karşı karşıya kalırız — ve bu da kuruluşumuzun temeline oturtulan çok kültürlü, çoğuncu toplum fikrini ortadan kaldırır.