Yapay Zekâ ve Demokrasi

Bu konu neden önemli?

Geçtiğimiz on yılda yapay zekâ (YZ) konusuna yönelik muazzam bir ilgi gelişti. Makine öğrenmesindeki bazı atılımlar ve büyük miktarda veri toplama ve analiz etmenin yeni yolları sayesinde, YZ’nin günlük teknolojide giderek daha fazla uygulanacağı ve toplumları büyük ölçüde ve adeta devrimci bir şekilde yeniden şekillendireceğine yönelik beklentiler artıyor. YZ’ye yönelik teknolojik ve ekonomik perspektif kaynaklı yoğun ilginin hemen ardından toplumsal sonuçları, özellikle adalet ve hesap verebilirlik konularında yoğun bir tartışma baş gösterdi. Yalnız son zamanlarda bu sosyolojik eleştiriye, YZ’nin siyaset, özellikle de demokratik siyaset ve işleyiş üzerinde yol açabileceği sonuçlar üzerine bir tartışma da eklendi. YZ ve demokrasi üzerine yapılan tartışmalar şimdiye kadar çoğunlukla Jamie Bartlett veya Yuval Noah Harari örneğinde olduğu gibi popüler bilim kitaplarında ve fikir yazılarında sürdürüldü. Demokratik teori veya ampirik analiz içeren daha ayrıntılı dergi makaleleri hâlâ nadir, ama sayıları artıyor ve bu tartışma YZ teknolojilerinin etkisi daha da görünür hale geldikçe daha da hızlanacak. Belki de çıkış noktası tercihinden dolayı, şimdiye kadar süren tartışmalardaki hava oldukça telaşlandırıcıydı. Tartışmaya YZ’yi demokrasi için yeni ve çok ciddi bir tehdit olarak gösteren, savaş naraları hâkim, ancak literatürde YZ’yi temsili irade oluşumunun eksikliklerinin tedavisi olarak gören bir kesim de var, her ne kadar sayıları az olsa da. Bu “risk-fırsat” çerçevesi, eski dijitalleşme ve demokrasi tartışmasında kullanılan çerçevelere benziyor. Yine de daha yakından bakıldığında, YZ’nin demokratik siyaseti yeniden şekillendirdiği yeni ve farklı yollar görülüyor. Bu, bu bilgi notunun odak noktası.

Bu bilgi notu, YZ teknolojilerinin nasıl çalıştığına ve toplumları nasıl dönüştürdüğüne dair kısa bir açıklamanın ardından okuyuculara YZ’nin demokrasi üzerindeki etkisine ilişkin araştırma literatürünü tanıtıyor. Literatür üç farklı alanda inceleniyor: YZ ve demokratik kamusal alan, YZ’nin seçim kampanyaları üzerindeki etkisi ve kamu hizmetlerinde otomatik karar verme sistemlerinin önemi ve hesap verebilirliği. Metinde literatürün her bir kolunda mevcut gidişatın bir değerlendirmesini yapılıyor ve bildiğimiz ve uyguladığımız şekliyle demokrasinin YZ uygulamalarının geliştirilmesinden ve uygulanış biçiminden ne ölçüde etkilendiğini tartışılıyor. Son olarak, YZ düzenlemelerine yönelik son girişimlere bir göz atılarak YZ’nin politik boyutunun yasal düzenleme tartışmalarında ne kadar ciddiye alındığı analiz edilecek.

Yapay Zekâ ve Demokrasi: Sosyo-teknik Arka Planı Anlamak

YZ çalışmaları bir araştırma alanı olarak mevcut tartışmalardan çok önce başladı. Köklerinin en azından 1950’lerin ortalarına kadar gittiği söylenebilir. O zamanlar makinelerin yakında insanlar gibi düşünüp hareket edebileceğine dair beklentiler yüksekti, ancak öngörülen ilerleme hiçbir zaman gerçekleşmedi ve araya YZ kışı denen uzun bir süre girdi. Bu dönemde, YZ kamusal söylemde neredeyse görünmez oldu. Ancak görünür olmasa da ilerleme kaydedildi ve mevcut beklentilerimizin dayanağını oluşturan kavramsal araçların ve algoritmik tekniklerin çoğu geliştirildi veya ayrıntılarında küçük değişiklikler yapıldı. Bu arada dijitalleşme toplumsal yaşamda muazzam bir ilerleme kaydetti ve YZ’nin yükselişi için zemini hazırladı. Belirleyici olan iki faktör vardı: Çok yüksek bilgi işleme gücüne ulaşmak ve sürekli büyüyen veri toplama. Yeni iletişim biçimleri, yeni veri algılama, toplama ve depolama teknolojileri, veri toplama için güçlü ekonomik teşvikler yeni veri analizi yöntemleri geliştirmeyi gerekli kıldı. YZ 2010’dan bu yana konuşma ve görüntü tanıma gibi alanlarda tanık olduğumuz bir dizi muhteşem başarıda baskın hale gelen makine öğrenme yöntemlerinin değerini kanıtlayarak yükselişe geçti ve bir makine, uzun zamandır imkânsız olduğu düşünülen bir şeyi başararak Go oyununda insanları yendi.

Bugünkü derin öğrenme tekniklerini tümevarımsal bir yaklaşım belirliyor. İlk başlarda YZ geliştirme genellikle karmaşık tümdengelimsel sınıflandırma ve muhakeme gerektirirken, güncel yaklaşımlar büyük veri kümelerini analiz ederek çalışıyor ve böylece önceden tanımlanmış kriterlerin optimizasyonuna olanak sağlamak üzere karar kuralları oluşturuyor veya olanları uyarlıyor. YZ sistemleri birçok alanda örüntüleri tespit etme ve kategorilere ayırma konusunda oldukça etkili hale geldi ve çalıştığı sırada yeni gelişmelere veya örüntülere uyum sağlamak üzere geliştirildi. Bu beceriler en doğru şekliyle öğrenme süreçleri olarak yorumlayabiliriz; sadece kapsamları ve karmaşıklıkları onları bazı durumlarda insan analizinden üstün kılıyor (karmaşık tedarik zincirlerinin optimizasyonu buna iyi bir örnektir). Yine de YZ’ye yönelik mevcut yaklaşımları kısıtlı veya zayıf YZ olarak kavramak önemli. Kısıtlılıklarının nedeni taşınabilir olmayışları, yani YZ belirli bir görevi yerine getirmek için eğitilir ve uyarlama adımları olmadan çalışmaz veya başka sorunlara uygulanamaz.1

Elinizdeki metin, bundan sonrasında, tartışmayı kısıtlı YZ uygulamalarından kaynaklanması beklenen toplumsal gelişmelerle sınırlayacak ve esas olarak önümüzdeki beş ile on yıllık döneme odaklanacak. Temelde yatan varsayım, bu dönemde gelişimin ana itici gücünün kısıtlı YZ’nin toplumda yaygın olarak kullanılmasıyla ilgili olacağı. YZ tekniklerinin kullanımı bugüne oranla çok daha yaygınlaşacak, çok daha karmaşıklaşacak ve çok daha kusursuzlaşacak olsa da, temelde büyük bir fark olmayacaktır. Bu nedenle, gelişmelerin yönünü belirlemek ve şekillendirmek için birçok olanağımız bulunmasına rağmen nereye gittiğimizi şimdiden tahmin edebiliyoruz, çünkü bu teknolojik gelişmeler kadar siyasi, toplumsal ve ekonomik çerçevelere de bağlı.

YZ ve Demokrasi: En Önemli Gelişmelerin Değerlendirilmesi

Yazının bundan sonraki kısmı kolektif özyönetimi sağlamayı amaçlayan kurumsal bir düzenleme olarak demokrasi konusuna odaklanacak. Temsil demokrasinin anahtarı ve eğer demokratik bir temsil sistemine sahip olmak istiyorsak, vatandaşların seslerinin ve tercihlerinin siyasi kurumlara (“kamusal iradenin oluşumu”) özgürce ve dönüşlü bir şekilde iletilmesini sağlayan prosedürel düzenlemeler ve gerçek bir seçim yapılmasa bile sorumlu tutulabilecek kurumlar gerek. Demokrasi esas olarak sonuçla veya etki gücüyle ilgili değildir ve bu nedenle adil veya hatasız bir toplumla eşitlenmemelidir (sonuçların iyi veya adil ve dolayısıyla demokratik olarak nitelendirildiği YZ tartışmalarının öncülü bazen bu yanlış eşdeğerliktir). Öte yandan demokrasiyi sadece seçim usulünü esas alarak dar bir şekilde tanımlamamak gerekir, zira kamusal iradenin oluşumu ve iktidarın kullanılma şekli de demokrasinin komplike değerlendirmesi açısından önemlidir.

Bu demokrasi anlayışına dayanarak, YZ’nin toplumsal veya siyasi uygulamaları demokrasinin yürütülüş biçimini doğrudan etkileyecek şekilde nasıl dönüştürdüğüne dair tartışmada kabaca üç ana odak noktası belirlenebilir: kamusal alanda, seçimlerde ve kamu hizmetlerinin yönetiminde.2

YZ ve Demokratik Kamusal Alan

YZ’nin kamusal alan üzerindeki etkisine ilişkin tartışma, şu anda en öne çıkan ve genel izleyici kitlesine tanıdık gelen tartışma. Aynı zamanda dijital kamusal alanın yapısal dönüşümü ile ilgili uzun süredir devam eden tartışmalarla da doğrudan bağlantılı. Zaten dijital dönüşüm, diğer pek çok şeyin yanı sıra, haber tüketiminin kişiselleşmesini artıran ve özel ve kamusal sohbetler arasındaki engelleri yıkan sosyal ağların yükselişinin yolunu açmıştı. Yankı odası veya filtre balonu etkilerine genellikle bu gelişmelerin yol açtığı düşünülür ve dünyanın her yerindeki demokrasilerde yoğunlaşan siyasi kutuplaşmanın temel nedenleri olarak da bu etkiler gösterilir. Filtre balonları, yankı odaları ve toplumsal kutuplaşma üzerine yapılan ampirik araştırmalar, bu etkilerin son derece abartıldığını ve teknolojiyle ilgili olmayan pek çok gelişmenin demokratik geriye gidişin nedenlerini daha iyi açıkladığını ikna edici bir şekilde gösterse de, YZ uygulamalarının yaygınlaşması genellikle teknolojik gelişmeler ile demokrasiyi tehdit eden toplumsal parçalanma arasındaki doğrudan bağlantıyı canlandırması beklenmekte.  

Burada YZ’nin kamusal söylemleri analiz etme ve yönlendirme olasılığını fazlasıyla artıracağı ve/veya irade oluşumunun otomatik olarak kategorilere ayrılması sürecini yoğunlaştıracağı varsayılmaktadır. Günümüz YZ uygulamalarının güçlü yanlarının muazzam miktarda iletişim ve bilgiyi gerçek zamanlı olarak gözlemleme ve analiz etme, örüntüleri tespit etme, anlık ve genellikle görünmez tepkileri önceden göz önünde bulundurma becerisi olduğu iddia ediliyor. Bir iletişim çılgınlığının yaşandığı bir dünyada, otomatikleştirilmiş içerik denetimi bir zorunluluk ve hem siyasi hem de ticari baskılar iletişim akışlarını denetleyecek ve bunlara müdahale edecek dijital araçların geliştirilmesi yönünde. Kontrol olanakları kullanıcılar, moderatörler, platformlar, ticari aktörler ve devletler arasında dağıtılıyor, ancak tüm bu gelişmeler otomasyonu zorunlu kılıyor (her ne kadar son derece asimetrik dağıtılmış olsalar da). Bu nedenle, YZ işletim sistemlerinde tüm iletişimlerin arka ucuna ayrılmaz parça olarak ekleniyor ve hemen göze çarpmayan ama son derece güçlü bir yapılandırma unsuru haline geliyor.

Bu gelişmeden kaynaklanan risk de iki katına çıkıyor. Bir yandan vatandaşları büyük ölçekte manipüle etmek için bu yeni olanaklardan yararlanan kötü niyetli aktörler olabilir. Bir siyasi söylem okuma ve yönlendirme girişimi olarak Cambridge Analytica skandalı akla geliyor (seçim müdahalesi ile ilgili sonraki bölüme bakınız). Diğer risk, kamu şirketleri ve özel şirketler arasındaki değişen ilişkide yatıyor. Özel güçler siyasi meselelere giderek daha müdahil hale geliyorlar ve yapısal ve teknolojik nedenler yüzünden siyasi süreçlere şeffaf olmayan bir şekilde etki etme kapasiteleri artıyor. Bundan başka dikkat ekonomisi diye bir şeyin ortaya çıkması gibi, dijital toplumların değişen ekonomik rasyonalitesi birden kamusal alanın özel iş modelleri aracılığıyla yeniden şekillendirilmesini gündeme getirdi. Özel kuruluşlar güçleniyor ve kamu otoritelerine karşı daha sorumsuz hale geliyor; bu bağımlılık yaratan ve aynı zamanda saydamlığa izin veren YZ uygulamalarının onaylanmasıyla hızlanan bir gelişme. Gözetim kapitalizminin “siyasallaşması”, Shoshana Zuboff'un iddia ettiği gibi, yalnızca her zamankinden daha istilacı ve kuşatıcı olmakla kalmayıp aynı zamanda bireylerin davranışlarını tahmin etmek, değiştirmek ve kontrol etmek için toplanan verileri kullanma eğiliminde yatıyor. YZ teknolojileri, bu isteklerin karşılanmasına imkân verdiği için gözetim kapitalizminin “siyasallaşmasının” ayrılmaz bir parçası. Ama aynı zamanda, YZ de onu geliştiren ve yayan şirketleri, bir yandan ağ etkileri, diğer yandan da opaklık yoluyla kamusal denetimin dışında tutuyor. YZ’nin işleyişi büyük miktarda veriye dayalı ve yüksek ön maliyetleri var (örneğin, YZ geliştirmek için gereken yetenek ve YZ’nin üzerinde çalıştığı dev platformların tükettiği enerji), ancak bir kez tesis edildikten sonra rekabetçi pazarlar aracılığıyla dizginlemek çok zor. Birçok aktör tarafından ve birçok amaç için uygulamalar geliştirilse de, YZ altyapısı temelde oldukça merkezi ve yeniden üretilmesi zor. Diğer platform pazarlarında olduğu gibi, burada baskın oyuncular en önemli kaynakları (modeller ve veriler) sıkı bir kontrol kurabilen ve her bir bireysel veya kurumsal kullanıcıdan faydalanabilenler olarak ortaya çıkıyor. Bu nedenle YZ geliştirmenin günümüzün internet devlerinin hâkimiyetini daha da pekiştirdiğini şimdiden görebiliyoruz. Kamusal güçlerin YZ uygulamalarını giderek daha fazla kullanması ve dolayısıyla en iyi altyapıyı sağlayabilen aktörlere her zamankinden daha fazla bağımlı hale gelmesi bekleniyor, bu altyapı ticari ve teknik nedenlerle hiç de şeffaf olmasa da.

Yukarıda anahatlarıyla verilen gelişmeler – kamusal söylemin manipüle edilebilirliğinin artması ve özel güçlerin gücünün pekişmesi – birbirini besliyor ve bugünün dijital kamusal alanlarında halihazırda görülen birçok eksikliği sadece daha da artıracak gibi görünüyor. Her ne kadar bir mevzuat tartışması etkisini göstermeye başlamış ve dijital meselelerin yasal düzenlemelerden paçayı sıyırdığı varsayımının çoğu kez yanlış olduğu ağ bağlantılı iletişim tarihinde kanıtlanmış olsa da, bu gelişmeleri devletin harekete geçmesiyle etkisizleştirip etkisizleştiremeyeceğimizi tahmin etmek çok zor. Başka bir olasılık, YZ uygulamalarının demokratik potansiyeli demokrasiye yönelik taşıdığı riskten daha ağır basan ve böylece farklı yapılandırılmış, daha güçlendirici ve kapsayıcı kamusal alanların ortaya çıkmasını sağlayan kullanıcılar tarafından yaratıcı bir şekilde kullanılması olabilir. YZ tabanlı teknolojilerin bireylere karmaşık, bilgi açısından zengin ortamlarda gezinme gücü verme ve koordineli bir eyleme ve etkili bir gözetime imkân verme potansiyeli taşımasından hareketle, YZ’nin daha ütopyacı varyantlarının çoğunun ve kamusal alana ilişkin literatürün umudu bu yönde (örn. Burgess, Zarkadakis).

YZ ve (Veri-odaklı) Seçimler

YZ ve demokratik kamusal alan tartışması, çoğunlukla sağlıklı bir demokrasi için gereken toplumsal zorunluluklara odaklanırken, bir başka tartışma demokrasiyi nasıl “uyguladığımız”, yani seçimlere ve bunların nasıl yürütüldüğüyle ilgili. Kamusal alan tartışmasında varsayılan riskler çoğunlukla özel aktörlerden kaynaklanırken, YZ ve seçimlere ilişkin tartışmada sorunsallaştırılan ilişki, doğrudan yönetenler ve yönetilenler arasında.

Temsili demokrasi teorilerinin çoğu seçimleri demokrasinin en önemli unsuru olarak görür. Seçimler seçkinlerin hesap verebilir durumda kalmasını ve davranışlarını seçmenlere göre konumlandırmasını sağlamalı. Seçimler, kamusal tartışmaların odak noktasını oluşturur ve halkın siyasi tercihlerini özgür ve eşit bir şekilde ifade etmesini sağlar. Bunu yapabilmek için seçimlerin belli koşulları karşılaması gerekir: Belirli usullere göre yürütülmelidirler ve geçmişte riskler çoğunlukla oy verme sürecinin kendisiyle ilgiliyken, bugün dikkatimiz aynı zamanda seçim kampanyalarına yöneldi, yani seçim sürecinde vatandaşlara nasıl seslenildiğine ve vatandaşların nasıl bilgilendirildiğine. YZ’nin (partiler ve politikacılar ama bazen de yabancı güçler gibi) siyasi aktörlerin vatandaşlara karşı aldatıcı yaklaşımlar sergileyebilmesini sağlayacak ve vatandaşların çıkarlarının ve tercihlerinin siyasi sisteme demokratik bir şekilde yansımasını önleyecek etkili araçlar yaratarak siyasi tartışmayı baltalayabileceği alan, bu ikinci alandır.

YZ ile ilgili olarak genellikle demokratik seçimlerin bütünlüğüne tehdit oluşturan iki gelişmeden söz edilir:

İlk eğilim, YZ destekli araçları kullanarak siyasi tartışmaları doğrudan manipüle etmenin yeni yollarıyla ilgili. Burada risk uzlaşmaz yöntemlerde görülecek bir tırmanışın kamuoyunu yönlendirmesi ve siyasi muhalifleri itibarsızlaştırması, böylece demokrasinin meşruiyetini lekelemesi ve halkın demokratik prosedürlere olan inancını aşındırmasıdır. Sosyal botlar ve sahte videolar genellikle bu gelişmenin en önemli örnekleri olarak görülüyor.

Sosyal botlar belirli iletişimleri otomatikleştirerek fikirleri güçlendirmek için kullanılabilen sosyal medya ajanları. Özellikle 2016 seçimlerinin ardından ABD’de (Trump) ve İngiltere’de (Brexit) botların rolü önemli bir haber konusu oldu. Botlar seçimleri etkilemeye veya vatandaşlar arasında anlaşmazlıklar yaratmaya çalışan yabancılar için tercih edilen bir silah olarak tanımlanmıştı. Botlar aracılığıyla iletişimi otomatikleştirmenin sosyal medya iletişiminin algoritmik mantığını manipüle ettiği ve böylece dezenformasyonu teşvik etmenin etkili bir yol haline geldiği düşünülüyor.

Öte yanda, sahte videolar doğrudan görüntü ve ses işleme alanındaki YZ tekniklerinden yararlanan sahtekârlıklardır. Görsel-işitsel materyali inandırıcı bir biçimde ve hızla değiştirmek son derece kolay ve ucuz hale geldi. Bu, muhaliflerinin itibarını zedelemeye çalışan siyasi aktörlerin elinde bir silah haline gelebilir. Siyaset tarihinde sahtecilik ve propagandanın her zaman kendine bir yer bulmuş olsa da, sahte videolar manipüle etme gücünü daha fazla aktör arasında yeniden dağıtır, küçük düzenlemeleri kanıtlamayı zorlaştırır ve her tür aracılı iletişime olan güveni daha da aşındırabilir.

Sosyal botlar ve sahte videolar genellikle YZ tekniklerinin daha da geliştirilmesiyle çok daha önemli hale gelecek endişe alanları olarak tanımlanırken, mevcut araştırmalar çoğunlukla sorunun abartıldığını gösteriyor. Risklere dikkat çekme pozisyonunu savunanlar genellikle argümanlarının başlangıç ​​noktası olarak teknik araçları kullanırlar ve bu tekniklerin kullanılmasını dengelemeye ve karşı koymaya yardımcı olan toplumsal faktörleri (araştırmacı gazetecilikten bu teknikleri kötüye kullananlara yaptırım uygulanma ihtimallerine kadar) görmezden gelme veya hafife alma eğilimindedirler. Bu nedenle, belirli teknikler siyasi tartışmanın kutuplaşmasını alevlendirme potansiyeline kesinlikle sahip olsa da, yakın gelecekte bunların demokratik prosedürler üzerindeki genel etkisi, özellikle işleyen ve çoğulcu bir medya ortamına sahip yerleşik demokrasilerde, etrafı telaşa verenlerin çizdiği senaryodan muhtemelen daha zayıf olacaktır.

İkinci eğilim, çevrimiçi politik mikro hedeflemenin genişlemesi. Bu strateji, sosyal botlardan ve sahte videolara oranla daha az saldırgan ve siyasi ve ticari iletişim alanında görülen geniş kapsamlı gelişmelerle çok daha uyumlu. Mikro hedefleme, muazzam miktarda veriye ve çok incelikle hazırlanmış örüntü tanıma tekniklerine dayanıyor ve bu nedenle önümüzdeki on yılda daha da karmaşık hale gelmesi beklenebilir. Mikro hedefleme, yıllar boyunca, iş-tüketici ilişkilerinde reklamcılığın doğasını değiştirdi ve ticari dikkat ekonomisinin gelişiminde itici güç oldu. Politik bağlamda, sağladığı seçiciliğin onu oldukça manipülatif kılmasından dolayı mikro hedeflemeye ciddi bir şüpheyle bakılıyor. Bu konuda ileri sürülen iddia, siyasi aktörlerin seçmenlere duymak istediklerini söyleyebilmeleri veya belirli bir adayın destekçilerini belirli bir seçimde oy kullanmaktan kaçınmaya ikna edebilmeleri halinde, mikro hedeflemenin seçim üzerindeki etkisinin kanıtlanması zor bir görünmez el haline geleceği yönünde. Tıpkı sosyal botlarda olduğu gibi, mikro hedeflemenin etkinliği de dikkatle değerlendirilmeli: Bir yandan seçmenleri harekete geçirmek ve tercihlerini anlamak demokrasi için faydalı bile olabilir; öte yandan seçmenleri birkaç özel tasarlanmış mesajla manipüle etmek zannedildiği kadar kolay değil. Çünkü siyasi kararlar bir kerelik değildir ve çoğu zaman, değiştirilmesi zor olan kişisel kimliklerle iç içedir (mikro hedeflemenin vaatleri ve sunduğu tehditler hakkında daha kapsamlı tartışmalar için: Zuiderveen Borgesius ve diğerleri 2018; Kreiss 2017).

Önümüzdeki birkaç yıl içinde, tartışmanın seçim bağlamını aşıp demokrasi ve demosun verileştirilmesiyle ilgili daha geniş tahayyülleri içeren manipülasyon konusuna odaklanmasını bekleyebiliriz. Daha karmaşık ve yaygın YZ uygulamaları vatandaşlar ve davranışları hakkında farklı bilgiler toplayacak ve demokrasilerin otomatik olarak tespit edilen tercih ve dertlere daha aktif bir şekilde yanıt vermeye karar verip vermediğini görmek önemli olacaktır. Demosun sürekli gözlenmesinden çıkan sonuçlara göre seçimlerin önemi azalabilir. İlk bakışta bu değişim daha fazla tepkiselliğe neden olabilir ve demokratik değerlerle uyumlu görünse de, aktif katılımın (ve refleksif kamusal tartışmanın örtük değerinin) yerini vatandaşların gözlemlenmesi ve kategorilere ayrılmasının aldığı daha teknokratik bir toplumla da sonuçlanabilir.

YZ ve Kamu Hizmetleri

YZ’nin demokrasi üzerindeki etkisini ele alan üçüncü açının başlangıç ​​noktası kamu hizmetlerinin tasarlanma ve işletilme biçimi. Siyasetin dijitalleşmesi çağrısı genellikle kamu yönetiminde karar alma usullerinin otomatikleştirilmesinde ani bir artışa işaret ediyor. Örnekler sosyal yardımların idaresinden vergi sistemlerine ve sınır kontrolüne kadar uzanıyor. Her zamankinden daha karmaşık bir dünyada, yüksek düzeyde otomatikleştirilmiş sistemlere geçmenin daha verimli bir siyasi sistemin oluşmasına zemin hazırlaması umuluyor. Otomasyon başarısızlıkları ve hayal kırıklıklarını ortadan kaldırmalı, daha incelikli ve daha hızlı karar vermeye imkân vermeli ve diğer sorunlar için kaynakları serbest bırakmalıdır.3

Peki, hizmetlerin yönetim biçimindeki bir değişiklik bile neden demokrasi açısından problem olarak görülüyor? Demokrasinin çoklukla kabul görmeyen bir beliti, toplumu temel yönlendirme mekanizmaları olan hukuka ve hukuk kurallarına dayanıyor olması. Yazılı yasalar ve bunların yargı denetimi altındaki bir yürütme organı tarafından uygulanması, demokratik sistemler için doğal bir işleyiş olarak görülür. Sürece dayanan kurumsallaşma halkın kendi kendini yönetmesi fikrinin temel bir unsurudur. Yasalar ve yasal yapılar, demokratik rejimlerin vatandaşları için anlaşılır olmasını sağlar ve tartışmalar için zemin oluşturur. Bu nedenle devletler yasal süreçleri kademeli olarak otomatik ve uyarlanabilir süreçlerle değiştirir veya tamamlarsa, bu demokratik sistemlerin işleyişini ve meşruiyetini ciddiyetle incelenmesi gereken şekillerde etkiler.

Toplumu otomatikleştirme düşüncesinin savunucuları temel olarak siyasi sistemlerin sonuçlarına bakar. Süreçlerin nesnel olduğunun varsayılması ve sistem çıktısının iyileştirilmesi nedeniyle, otomasyonun meşruiyeti artırmasını umarlar. Bu, değişikliklere bakmanın yalnızca bir yolu. Diğer araştırma literatürü, en az iki kaygı noktasının altını çizer:

• Bir yandan, makine öğrenmesi uygulamalarının mantığından kaynaklanan sorunlar var. Yukarıda zaten belirtildiği ve YZ’nin toplumsal etkisine ilişkin daha geniş kapsamlı tartışmalarda geniş çapta dile getirildiği gibi, derin öğrenme uygulamaları büyük ölçüde sisteme giren verinin kalitesine ve miktarına bağlı. Bu nedenle, önyargı ve opaklık, tam da tümevarımsal akıl yürütmenin temellerinden kaynaklandığından, sıklıkla önlenmesi (hatta keşfedilmesi) çok zor olan yan etkiler olarak algılanır. Önyargı, köklerini eski veri noktalarındaki örüntünün gelecekteki gelişmeleri tahmin etmek için kullanıldığı mantığında bulur. Opaklık ise, diğer şeylerin yanı sıra, YZ modelleriyle ilgili dinamik karmaşıklığın bir sonucudur. YZ uygulamalarının çalıştırılma aşamasında insan müdahalesini hükümsüz kılmasından dolayı genellikle tarafsız olduğu düşünülür, ancak önyargı ve opaklık tarafsızlığın sağlanamamasının iki ana nedenidir. Tarafsızlık sadece bir sürecin teknik olarak belirlenmesi olarak düşünülürse eksik anlaşılır. Tek taraflılık ve adaletsizlik, salt tutarsız veya yavaş bir uygulamadan çok daha fazla nedenden kaynaklanabilir. Otomatik sistemler hız ve tutarlılık bakımından optimum koşulları sağlar, ancak her zaman statükoyu koruma eğilimindedirler ve teknik yapıları ve karmaşıklıkları nedeniyle sorgulanmaları zordur.
• İkinci konu da bununla ilgili olmakla beraber daha soyut. Bu, hayli sarih olması gereken ve dolayısıyla yorumlayıcı akıl yürütme yoluyla tartışılabilen ve açıklanabilen yasalar ile tercih yapılarını düzene sokarak veya kişiselleştirerek daha az anlaşmazlık içeren süreçler yaratan otomatik karar verme sistemleri arasındaki farkla ilgilidir. YZ tabanlı uygulamalar aracılığıyla vatandaşların kamu idareleriyle giderek daha fazla etkileşime gireceğini varsayarsak – birçok günlük faaliyetin aktif olarak algoritmik müdahalelerle yönetildiği akıllı şehirler örneğinde olduğu gibi – devlet ve vatandaşları arasındaki ilişki değişir (bkz. John Danaher “The Threat of Algocracy”). Artık çoğunlukla kendi işlerimizi bize açıkça iletilen kurallar içinde yönetme yeteneğine sahip, soyut ve çoğulcu bir varlık (vatandaş veya demos) olarak görülmüyoruz. Kamu otoriteleriyle olan etkileşimimiz daha kişisel, bağlama bağlı ve ayrıntılı hale geliyor. Kamusal alandaki bireysel deneyimimizin tasarlanması için YZ sistemlerinin kullanılması, yeni ve potansiyel olarak müdahaleci bir yönetim biçimi oluşturuyor ve sistemlerimizdeki otoritenin doğasını değiştiriyor (toplu olarak güvenmeye ve kontrol etmeye karar verdiğimiz bir şeyden, bireysel olarak güvendiğimiz bir şeye).

Özetle, kamu hizmetlerinin otomatikleştirilmesi konusundaki tartışma, yüksek düzeyde otomatikleştirilmiş ortamlarda yapısal hâkimiyet bakımından artan risklerin altını çiziyor. YZ günlük yaşama hedefli müdahalelere olanak sağlıyor ve daha karmaşık yönlendirme araçları kullanılabilir hale gelirse, mikro yönetimin bu türünün daha da yoğunlaşması muhtemel. Bu, bazı açılardan arzu edilebilir olsa da – iklim kriziyle mücadeleyi ve bunun, diğer şeylerin yanı sıra, toplum çapında bir davranış koordinasyonunu gerektirdiğini düşünün – demokratik bir perspektiften bakıldığında soru, YZ destekli bir kamu yönetiminin, tıpkı hukuka dayalı bir yönetim gibi, sorumlu tutulup tutulamayacağıdır. Dahası, soru bir öngörüye odaklanmanın paradoksal olarak politikamızı geçmişe çok fazla bağlayıp bağlamadığıdır. YZ geleneksel yönetişim biçimlerinden oldukça farklı, çünkü YZ’de gerekçe gösterme işinin gerçekleştirilmesi zor ve mevcut gelişmeyi yönlendiren özel ve kamusal güçlerinin karışımı, YZ’nin demokratikleştirilmesi açısından ciddi bir sorun teşkil ediyor (bu sorunların nasıl üstesinden gelineceğine dair bkz. Djeffal).

YZ ve Demokrasi: Düzenleme Girişimleri

Bir önceki bölümde gördüğümüz gibi, YZ uygulamalarının kamusal alana, demokratik siyasete ve kamu hizmetlerine yaygın şekilde uyarlanması, demokrasi açısından bir dizi zorluk yaratabilir. Şimdiye kadar vurgulanan risklerin çoğunun hayli spekülatif olmasına ve telafi edici güçleri ve diğer dengeleyici faktörleri yeterince hesaba katmamasına rağmen, demokratik siyasetle ilgili olarak kısıtlı YZ’nin bile getirdiği risklerin kesinlikle farkında olmalıyız. Bu nedenle, bu bilgi notunun bu son kısmı YZ’ye düzenleme getirmeye yönelik mevcut girişimlere genel bir bakışla, bunların demokrasinin karşı karşıya olduğu zorluklara ne kadar hitap ettiğine değinecek.

Yaklaşık beş yıldır dünya siyasetinde YZ ile ilgili yasal düzenlenmelerin yapılması talepleri yükseliyor. Her biri YZ’nin ve uygulamalarının düzenlenmesi konusunda geliştirilecek kapsamlı bir yaklaşım üzerinde çalışan Çin, Amerika Birleşik Devletleri ve Avrupa Birliği gibi birbirinden hayli farklı siyasi sistemlerde, yasal düzenleme tekliflerinde büyük bir artış oldu. Bu önerilerin kaçınılmaz ve yıkıcı bir gelişme olarak YZ anlatısı yaratmaları bakımından bazı benzerlikleri var. Bütün teklifler YZ kullanımı ve bunun etkileriyle ilgili büyük bir belirsizliğe işaret ediyor ve ardından bunları bir düzenleyici liderlik talebine tahvil etmeye devam ediyor (bkz. Bareis/Katzenbach). Genel anlatılar benzerlik göstermesine rağmen, neyin düzenleneceği ve nasıl yönlendirileceği konusunda uluslara bazında vurgu büyük ölçüde farklı: Ağırlıklı olarak Trump yönetimi sırasında geliştirilen Amerikan yaklaşımı, çoğunlukla Amerikan endüstrisi bakımından sağlayacağı ekonomik fırsatlarla ilgilenirken, Çin’in YZ geliştirme planı, toplumun en iyi nasıl yönetileceği sorusuna daha fazla odaklanıyor ve daha davranışçı bir mantık taşıyor. AB Yapay Zekâ Yasası Taslağı, Yapay Zekâ Çalışma Komisyonu (Alman Federal Meclisi tarafından oluşturulmuştur), Alman YZ stratejisi veya Anlamlı Bir Yapay Zekâ için Fransız Villani raporu gibi, Avrupa çapında YZ düzenleme girişimleri, normatiften dili en çok kullanan ve ekonomik talepler ile etik düşünceler arasında bir denge kurduğunu en açık biçimde iddia eden girişimdir. Bu nedenle, makalenin geri kalanının ana odak noktası Avrupa yaklaşımları olacaktır.

Avrupa’nın getirdiği tekliflerin niteliği, gelecekteki rekabet edebilirliğe ilişkin sahici bir yaklaşımın önemini vurgularken, ortak yarar veya bireysel özerklik gibi geniş kapsamlı terimlerle atıfta bulunulan Avrupa değerlerini gözden kaçırmaması. Kapsamlı dijital egemenlik başlığı altında, Avrupa yalnızca kendi dijital altyapısını geliştirip sürdürebilmesini sağlamakla kalmamalı, aynı zamanda YZ’nin yalnızca toplumsal etkisinin uygun şekilde yansıtılması ve yeterince kontrol edilmesi durumunda devreye alınmasını sağlamalı. Bu amaca ulaşmak için iki ana yaklaşım söz konusu: Birincisi, neredeyse tüm yeni Avrupa belgelerinin farklı kullanım türlerini tanımlayan risk temelli yaklaşımlar olması. Örneğin, AB Yapay Zekâ Yasası Taslağı, sosyal puanlama, yüksek riskli kullanımlar gibi yasaklanmış kullanımlar − diğer şeylerin yanı sıra sağlık veya güvenlik sorularının yaygın olduğu yerlerde − ile daha düşük riskli kullanımlar arasında ayrım yapmakta. İkinci ana ve genellikle bununla bağlantılı yaklaşım, YZ uygulamalarının özel aktörler tarafından kullanımına izin vermek, ancak bunları denetlemek ve nitelendirmek için yüksek şeffaflık standartları talep etmek.

Demokrasiye ve yukarıda belirtilen risklere yapılan atıflar bu belgelerde ne kadar dikkate alınmıştır? Demokrasi çoğunlukla, daha soyut bir Avrupa değerleri düşüncesine sıkı sıkıya bağlı, arkaplanda yer alan bir temel koşul olarak varlığını gösterir. Bu belgelerin hiçbirinde kendi başına önemli bir faktör değildir ve bu belgeler kurumsal bir duruş olarak nadiren demokrasiye odaklanır. Yine de yukarıda belirtilen üç alanın her biri ana belgelerin çoğunda ele alınmaktadır.

Kamusal alanın yapısal dönüşümü ile ilgili olarak, örneğin AB Yapay Zekâ Yasası Taslağı, YZ’nin kasıtlı manipülatif eylemler için kullanılmasını yasaklar ve sosyal bot ve sahte video kullanımı için şeffaflık talep eder. Alman Yapay Zekâ Araştırma Komisyonu’nun uzun raporu tavsiyelerinde oldukça hoşgörülü, ancak yukarıda değinilen tüm konuları tartışır ve kamusal alanla ilgili gelişmelerin daha iyi izlenmesi zorunluluğunu özellikle vurgular. Villani raporu ayrıca özel yetkileri düzenleme gerekliliğini vurgular, ancak çoğunlukla ekonomik yönlere ve Avrupa’nın rekabet gücünü güvence altına almaya odaklanır.

Doğrudan demokratik seçimlerle bağlantılı konular YZ düzenleme tekliflerinde nadiren doğrudan ele alınır. Bunun nedeni, seçimlerin ve kampanyaların ulusal seçim yasalarıyla ilgili meseleler olarak görülmesi olabilse de, bunlar genelde teknolojik değişikliklere çok yavaş uyum sağladığından konuya daha fazla dikkat edilmelidir. Spesifik bir uygulama olarak mikro hedefleme, Genel Veri Koruma Yönetmeliği’nde (GDPR) dolaylı olarak ele alınmaktadır; genel bir bakış için bkz. Dobber ve diğerleri.

Kamu hizmetleri konusuna gelince, Avrupa’daki yaklaşımlarında ana hat örnek oluşturarak ilerlemek şeklinde tanımlanabilir. Bu genel olarak kamu idarelerinde YZ kullanımının arzu edildiği ve teşvik edildiği anlamına gelse de, yasal düzenleme önerilerinde YZ teknolojisi kullanımının şeffaf bir şekilde bildirilmesini ve kararlara itiraz etmek için YZ dışı prosedürlerin oluşturulmasını sağlamak üzere soyut kalite standartları formüle etmeye çalışılır. Yüksek riskli kamu yönetimi ortamında YZ’nin etik kurallara uygun olarak kullanılması, aynı zamanda şeffaflık ve hesap verebilirlik kriterlerini yerine getiren bir YZ geliştirilmesi konusunda teşvik edici olmalıdır. Bu bilgi notunda tartışılan gelişmeler YZ ve demokrasi ile ilgili tartışmanın henüz emekleme aşamasında olduğunu gösteriyor. Akademik değerlendirmeler ve politikaların uyumlu hale getirilmesi aşağı yukarı aynı zamanda başladı ve çerçeve şu anda çoğunlukla dijitalleşme ve demokrasi ve örnek kötü amaçlı kullanım vakaları üzerine yürütülen daha geniş tartışmalar tarafından belirleniyor. YZ uygulamalarının topluma yayılması daha kapsamlı denetimlere yol açacaktır ve özellikle kamu hizmetlerinde YZ kullanımı konusunun önümüzdeki on yılda daha önemli bir konu olması beklenebilir.

Konuyla ilgili diğer kaynaklar

• AlgorithmWatch (2020). Automating Society Report 2020. Algorithm Watch / Bertelsmann Stiftung.
• König, P. D., & Wenzelburger, G. (2021). “Between Technochauvinism and Human-centrism: Can Algorithms Improve Decision-making in Democratic Politics?” European Political Science, https://doi.org/10.1057/s41304-020-00298-3 
• Marcus, G., & Davis, E. (2019). Rebooting AI: Building Artificial Intelligence We Can Trust. Pantheon.
• Nemitz, Paul (2018). Constitutional Democracy and Technology in the Age of Artificial Intelligence, in: Philosophical Transactions of the Royal Society A 376: 2133.
• Nowotny, Helga (2021). In AI We Trust: Power, Illusion and Control of Predictive Algorithms, Medford.
• Risse, Mathias (2021). Artificial Intelligence and the Past, Present, and Future of Democracy (Carr Center Discussion Paper), Cambridge, MA.
• Sudmann, Andreas (ed.): The Democratization of Artificial Intelligence: Net Politics in the Era of Learning Algorithms, Bielefeld.
• Susskind, J. (2018). Future Politics: Living Together in a World Transformed by Tech. OUP.
• Veale, Michael/Borgesius, Frederik Zuiderveen (2021). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International, https://doi.org/10.9785/cri-2021-220402 

Bu metinde ifade edilen görüşler yalnızca yazarlara ve/veya görüşülen kişilere aittir ve Heinrich Böll Vakfı, İsrail Kamu Politikası Enstitüsü (IPPI) ve çalışanları ve/veya onların çalışmalarını destekleyen kuruluşların görüşlerini yansıtmaz.