Bir gün telefonunuz, fotoğraflarınızı daha kolay bulabilmeniz için yüzleri tanımasına izin vermenizi ister. “İzin ver” tuşuna basarsınız. Birkaç dakika sonra annenizin bütün fotoğrafları bir klasörde, eski arkadaşlarınızın fotoğrafları başka bir klasörde, yıllar önce hayatınızdan çıkmış insanlar ise isimlendirilmeyi bekleyen küçük dairelerin içinde sıralanmıştır.
Sistem işini iyi yapmıştır. Aradığınız fotoğrafı artık saniyeler içinde bulabilirsiniz.
Başınıza kötü bir şey de gelmez. Hesabınız çalınmaz, fotoğraflarınız yayımlanmaz, kimse sizi tehdit etmez. Hatta bu özellik yıllarca işinize yarar. Buna rağmen bir gün, nedenini tam olarak açıklayamadan, “Keşke o tuşa basmasaydım,” diye düşünebilirsiniz.
Çünkü o anda yalnızca fotoğraflarınıza erişim izni vermemişsinizdir. Bir yüzün hangi başka yüzlerle birlikte görüldüğünü, bir ilişkinin ne kadar sürdüğünü, kimlerin zamanla kadrajdan çıktığını, hayatınızın hangi dönemlerinde nerede bulunduğunuzu ve hangi kişilerin tekrar tekrar geri döndüğünü hesaplanabilir bir düzene açmışsınızdır.
Buradaki huzursuzluk, verinizin çalınmış olmasından kaynaklanmaz. Verinin size ait olup olmaması da meseleyi bütünüyle açıklamaz. Asıl soru daha önce gelir:
Bir yüz, bir karşılaşma, bir yas dönemi ya da yıllar önce unutulmuş bir ilişki neden makinenin okuyabileceği bir veriye dönüşmüştür?
Onay kutusundan önce
Bu soruya bugün genellikle “rıza” kavramıyla cevap veriliyor. Kullanıcıya seçenek sunulduğu, şartların açıklandığı ve kişinin kendi iradesiyle kabul ettiği varsayılıyor.
Oysa seçim, hiçbir zaman gerçek anlamda eşit iki seçenek arasında gerçekleşmez. Tuşa basmamak yalnızca bir hakkı korumak değil, çağdaş toplumsal hayattan adım adım çekilmeyi kabul etmek anlamına gelebilir. Akıllı telefondan vazgeçmek, bazı bankacılık işlemlerini kullanmamak, konum hizmetlerini kapatmak, çevrimiçi kamu hizmetlerinden uzak durmak ya da gündelik iletişim ağlarının dışında kalmak gerekebilir.
Rıza, kabul ile ret arasında değil; kabul ile sonuçları tam olarak açıklanmamış bir mahrumiyet arasında kurulur.
Bir hakkın kullanılması ancak toplumsal hayattan çekilme pahasına mümkünse, ortada gerçek bir haktan söz etmek güçleşir. “İstemiyorsan kullanma” cümlesi özgürlük sunmaz; hakkını korumak isteyen kişiye kendi hayatını daraltma yükümlülüğü yükler.
Fakat bu eşitsizliği yalnızca rızayı daha açık, daha gerçek ya da daha bilgilendirilmiş hâle getirerek düzeltmeye çalışmak da asıl soruyu atlar. Çünkü sorun yalnızca onay kutusunun küçük yazılarında değildir.
Rıza sorusu kullanıcıya yöneltildiğinde yaşantı çoktan hesaplanabilir, sınıflandırılabilir ve aktarılabilir bir nesne olarak kurulmuştur. Kullanıcıdan istenen, bu dönüşüme karar vermesi değil; önceden belirlenmiş bir dönüşüm rejimine katılmayı onaylamasıdır.
Dolayısıyla ihtiyaç duyulan şey daha iyi hazırlanmış bir onay kutusu değil, onay kutusundan önce işleyen bir sınırdır.
Veriye dönüşmeme hakkı tam olarak bu sınırı talep eder.
Bazı deneyimlerin, ilişkilerin, bedensel hareketlerin ve gündelik karşılaşmaların sırf teknik olarak mümkün olduğu için ölçülebilir, aktarılabilir ve karşılaştırılabilir bir biçime sokulmaması gerektiğini söyler. Mesele teknolojiyi reddetmek değildir. Teknolojiyi kullanmanın, her davranışı veri hammaddesine dönüştürme zorunluluğu taşımamasıdır.
İnsan, bağlantısını kesmeden de kısmen opak kalabilmelidir.
Veri kimin değil, neden veri?
Veri egemenliği tartışması da benzer bir yanılgıya düşebilir. Genellikle şu soruyla başlar:
“Bu veri kimin sunucusunda duruyor?”
Bu soru önemlidir. Veriye kimin eriştiği, onu kimin sattığı, hangi şirketin ya da devletin kullandığı elbette siyasal bir meseledir. Ancak soru, tıpkı onay kutusu gibi, dönüşümün zaten gerçekleştiğini varsayar.
Yaşantı çoktan veriye çevrilmiş, sınıflandırılmış ve dolaşıma sokulabilir hâle gelmiştir. Geriye yalnızca bu verinin kimin mülkiyetinde olacağı, kim tarafından denetleneceği ve hangi amaçlarla kullanılacağı tartışması kalır.
Oysa daha önce sorulması gereken soru şudur:
Bu yaşantı neden veri oldu?
Veri egemenliği mülkiyeti tartışır. Veriye dönüşmeme hakkı ise mülkiyetten önce gelen siyasal ve epistemolojik eşiği. Bir şeyin kime ait olacağını sormadan önce, onun neden mülk edinilebilir bir nesne hâline getirildiğini araştırır.
Bu ayrım, dijital egemenlik ve yerli yapay zekâ tartışmaları açısından da önemlidir.
Bir ülkenin kendi veri merkezlerini, dil modellerini ve teknolojik altyapısını kurması dışa bağımlılığı azaltabilir. Verilerin başka ülkelerdeki şirketlere aktarılmasını sınırlandırabilir. Bu küçümsenecek bir kazanım değildir.
Fakat altyapının ulusal ya da kamusal olması, yaşantıyı ölçülebilir profillere çevirme mantığını kendiliğinden ortadan kaldırmaz. Veri ülke dışına çıkmayabilir; buna karşılık yurttaşın hayatı aynı sınıflandırma ve optimizasyon düzeni içinde daha yoğun biçimde işlenebilir.
Bağımlılık azalırken verileştirme derinleşebilir.
Bu nedenle “kendi modelimiz” bizi tek başına kurtarmaz. Kimin modeline maruz kaldığımız kadar, model olmanın kendisinin ne anlama geldiğini de tartışmak gerekir.
Bir model ancak temsil edilebilir hâle getirilmiş girdiler üzerinde çalışabilir. Bu yüzden modelleme, dünyayı olduğu gibi seyreden tarafsız bir göz değildir. Neyin okunabilir, karşılaştırılabilir ve hesaplanabilir sayılacağını önceden belirleyen bir seçimdir.
Sorun yalnızca yabancı bir şirketin bizi yanlış tanıması değildir. Yerli bir sistem de insanı risk puanına, tüketim profiline, performans ölçüsüne ya da güvenlik kategorisine indirgeyebilir.
Çıkaranın kimliğini değiştirmek, çıkarma işleminin yapısını her zaman değiştirmez.
Makine yalnızca bizi tanımaz
Yapay zekâ sistemlerinin gücü çoğu zaman bizi ne kadar iyi tanıdıkları üzerinden tartışılıyor. Hangi kitabı okuyacağımızı, hangi filmi seveceğimizi, ne satın alacağımızı, hangi yoldan gideceğimizi tahmin ettikleri söyleniyor.
Fakat sistem yalnızca önceden var olan bir kişiyi tanımaz. Ona belirli bir kişi olarak seslenir, ardından bu kişiliğin görüntüsünü tekrar önüne koyar:
“Sen bu tür içerikleri seversin.”
“Senin gibi kullanıcılar bunu tercih etti.”
“Bu çalışma biçimi sana daha uygun.”
“Bu metin senin üslubuna daha yakın.”
Bu cümleler yalnızca betimleme değildir. İnsan zamanla kendisini bu geri dönüşlerin içinden okumaya başlar. Sistem ona kim olduğunu söylemekle kalmaz; kim olduğuna inanabileceği düzenli ve tutarlı bir görüntü sunar.
Lacan’ın ayna imgesi dediği şey burada teknolojik bir biçim kazanır. Kişi kendisini karşısındaki görüntüde tanır; fakat bu görüntü her zaman ondan daha bütünlüklü, daha tutarlı ve daha düzenlidir. Yapay zekâ dağınık sözü düzeltir, çelişkiyi giderir, eksik düşünceyi tamamlar ve kişiye kendisinin daha pürüzsüz bir sürümünü geri verir.
İnsan yalnızca izlendiği için değil, daha iyi bir kendilik görüntüsü aldığı için de sisteme bağlanır.
Bu pürüzsüz görüntünün tehlikesi, yanlış olmasından ibaret değildir. Bazen yeterince doğru olabilir. Tehlike, kişiyi eksiksiz biçimde gördüğü izlenimini vermesidir. Oysa insan ilişkisi eksiğin varlığında kurulur: Karşımızdakinin söylemediği, bizim anlayamadığımız, onun da henüz bilmediği bir şey daima kalır. Sistem bu boşluğu bir hata gibi kapattığında insana kendisini tanıyan bir ayna değil, kendisi adına tamamlanmış bir profil sunar.
Althusser’in “çağırma” olarak tarif ettiği ideolojik işlem de burada görünür hâle gelir. Sistem bireye belirli bir kategorinin içinden seslenir; birey dönüp bu seslenişin kendisine ait olduğunu kabul eder.
Fakat çağdaş yapay zekâ düzeninde bu çağrı yalnızca devletin, okulun ya da medyanın yukarıdan gelen buyruğu biçiminde değildir. Kişiselleştirilmiş, yardımcı ve dostça görünür. Kullanıcıya kendi ihtiyaçlarına göre hazırlanmış cevaplar verir. Böylece insan yalnızca sisteme boyun eğmez; sistemin kendisi için hazırladığı özne konumuna gönüllü olarak yerleşebilir.
Buradan kolayca bir kadercilik doğabilir.
Eğer yapay zekânın her şeyi yutabileceği, her sözü kendine katabileceği ve her direnci yeni bir veriye çevirebileceği söylenirse, insana yalnızca iki seçenek kalırmış gibi görünür: Sisteme teslim olmak ya da telefonun fişini çekmek.
Her iki seçenek de sistemin kurduğu alanı kabul eder.
Birincisi hesaplanabilir olmayı kabullenir. İkincisi, hesaplanabilir olmamak için toplumsal hayattan çekilmeyi.
Bu kabulleniş insanı kendi davranışlarını önceden denetleyen bir konuma iter. Kişi daha sistem cevap vermeden kendisini düzeltmeye, sadeleştirmeye ve ölçülebilir hâle getirmeye başlar. Söylemini makinenin anlayacağı biçime sokar; ardından kendi sözünün, makine tarafından düzeltilmedikçe yeterli olmadığına inanır.
Otokontrol burada dışarıdan uygulanan baskının yerini alır.
İnsan yalnızca sistem tarafından sınıflandırılmaz. Sınıflandırılabilir kalmak için kendi kendisini düzenler.
Bağlam egemenliği
Bu nedenle veriye dönüşmeme hakkı, geçmişe dönme ya da teknolojiden vazgeçme çağrısı değildir. Teknolojik sistemlerin insan hayatına hangi eşiklerden geçerek girebileceğini siyasal olarak belirleme talebidir.
Bu talebin yanında başka bir kavrama daha ihtiyaç vardır: bağlam egemenliği.
Veri egemenliği, verinin hangi sunucuda tutulduğunu ve kimin mülkiyetinde olduğunu sorar. Bağlam egemenliği ise bir sözün, hareketin ya da ilişkinin üretildiği bağlamdan çıkarılıp başka bir amaç için kullanılmasına kimin karar verdiğini sorgular.
Bir sağlık bilgisi sigorta riskinin hesaplanmasında kullanılabilir mi?
Bir okul ödevi bir dil modelinin eğitim verisine dönüştürülebilir mi?
Bir telefon görüşmesinin ritmi, kişinin psikolojik durumuna ilişkin tahmin üretmek için kullanılabilir mi?
Bir fotoğraftaki yüz, sahibinin bilgisi dışında başka görüntülerle eşleştirilebilir mi?
Sorun yalnızca verinin saklanması değildir. Verinin başka verilerle birleştirilmesi, ondan yeni sonuçlar çıkarılması, ilk üretildiği amaçtan farklı bir amaç için kullanılması ve süresiz olarak dolaşımda tutulmasıdır.
Bağlam egemenliği; kaydı reddetme, kullanım amacını sınırlama, başka verilerle birleştirilmesine itiraz etme, kendisi hakkında otomatik çıkarımlar üretilmesini engelleme ve belirli bir süre sonunda kaydın dolaşımdan çekilmesini talep etme hakkını içerir.
Bunların gerçekleşmesi bireyin teknik bilgi düzeyine ya da hayatından ne kadar vazgeçebileceğine bağlı olmamalıdır.
Bir insan akıllı telefon kullanırken de her hareketinin profile dönüşmemesini isteyebilmelidir. Hastaneye giderken sağlık verilerinin başka amaçlarla kullanılmasını reddedebilmelidir. Okula devam ederken öğrenme davranışlarının ticari modellerin hammaddesi olmasına karşı çıkabilmelidir.
Hak, fişi çekebilme hakkı değildir.
Hak, fişi çekmeden sınır koyabilmektir.
Eşikten önce
Yapay zekâ tartışmaları çoğu zaman sonuçlarla başlıyor: Veri çalındı mı, model yanlı mı, karar şeffaf mı, kullanıcı bilgilendirildi mi?
Bunların hepsi önemlidir. Fakat hepsi yaşantının veriye dönüşmesinden sonra sorulan sorulardır.
Asıl siyasal tartışma daha önce başlamalıdır:
Hangi deneyimler veriye çevrilebilir?
Hangileri çevrilemez?
Bir hizmetin çalışması için gerçekten hangi bilgi gereklidir?
Hangi verilerin hiç toplanmaması gerekir?
Hangi çıkarımlar teknik olarak mümkün olsa bile yasaklanmalıdır?
Veriye dönüşmeme hakkı, insana sistemin dışında saf ve dokunulmamış bir alan vaat etmez. Böyle bir alan zaten hiçbir zaman bütünüyle var olmadı. İnsan her dönemde devlet, piyasa, okul, aile ve dil tarafından sınıflandırıldı.
Ancak bugünkü fark, bu sınıflandırmanın sürekli, kişiselleştirilmiş ve otomatik hâle gelmesidir. Kişi yalnızca belli anlarda kayda geçirilmez; her an yeni bir profile dönüştürülür ve bu profil tekrar kendisine gösterilir.
Bu nedenle direnç, teknolojiden kaçmak değildir. Her şeyin teknoloji tarafından okunabilir olması gerektiği iddiasını reddetmektir.
İnsan, kendisi hakkında üretilen en doğru açıklamadan ibaret değildir. Bir ilişkinin anlamı, sistemin çıkardığı bağlantı haritasına indirgenemez. Bir yüz, yalnızca başka yüzlerle birlikte görülme sıklığından oluşmaz. Bir söz, onu daha akıcı ve tutarlı hâle getiren modelin çıktısında tamamlanmış sayılmaz.
Bir şeyin hesaplanabilir olması, hesaplanması gerektiği anlamına gelmez.
Veriye dönüşmeme hakkı bu nedenle mahremiyetin dar bir uzantısı değil, yapay zekâ çağının temel siyasal haklarından biri olarak düşünülmelidir. Çünkü özgürlük yalnızca verimiz üzerinde söz sahibi olmak değildir.
Özgürlük, hayatımızın her parçasının veri olmak zorunda olmadığına karar verebilmektir.
Avrupa Birliği bu eşiği zaten kurmuyor mu?
Avrupa Birliği’nin veri koruma hukuku bu soruya en fazla yaklaşan düzenlemeleri içeriyor. Veri minimizasyonu, amaçla sınırlılık, tasarımdan itibaren veri koruma ve belirli otomatik karar biçimlerine itiraz hakkı; kuruluşlara, toplayabildikleri her veriyi toplama serbestisi tanımıyor. Avrupa Birliği Yapay Zekâ Yasası da bazı uygulamaları kabul edilemez risk taşıdıkları gerekçesiyle yasaklıyor. Bu kazanımları küçümsemek mümkün değildir.
Ancak bu düzenlemeler, veriye dönüşmeme hakkıyla aynı eşiği kurmaz. Çoğunlukla kişisel verinin hangi gerekçeyle, ne kadar süreyle ve hangi güvenlik koşullarında işlenebileceğini belirler. Verinin azaltılmasını, amacının sınırlanmasını ya da bazı kullanımların yasaklanmasını talep eder. Fakat yaşantının hesaplanabilir bir nesneye dönüştürülmesini başlı başına tartışma konusu yapan genel bir hak tanımaz.
Aradaki fark küçük değildir. Bir veri işleme faaliyeti hukuka uygun, güvenli, amaçla sınırlı ve ölçülü olabilir; buna rağmen bir ilişkinin, yüzün ya da davranışın neden ölçülebilir bir profile dönüştürüldüğü sorusu cevapsız kalabilir.
Veriye dönüşmeme hakkı mevcut korumaları reddetmez. Onların durduğu yerden bir adım geriye giderek, işlemenin nasıl yapılacağından önce işlemenin başlayıp başlamaması gerektiğini sorar.
Avın sınırı
Bir avcı topluluğunun başka bir topluluğun yaşadığı bölgeye girdiğini düşünelim. Hayvanları yalnızca kendi ihtiyacı kadar değil, o bölgedeki yaşamın yeniden kurulamayacağı ölçüde avlasın. Buradaki sorun avlanmanın kendisi değildir. Sorun, avın sınırının ortadan kalkması ve doğaya kendini yenileyecek zamanın bırakılmamasıdır. Hayvanlar tükendiğinde yalnızca bir besin kaynağı değil, o bölgede yaşayan topluluğun geleceği de ortadan kalkar.
Veri çıkarımı da benzer bir mantıkla işler. Her türlü kayıt ya da veri kullanımı insan hayatını zorunlu olarak yok etmez. Fakat yaşantının her anı tekrar tekrar çıkarılabilir, başka amaçlara aktarılabilir ve süresiz biçimde işlenebilir bir kaynağa dönüştürüldüğünde, insanın kendini yeniden kurabileceği alan daralır.
Kişi geçmişinden uzaklaşamaz. Önceki davranışlarını boşa çıkaramaz. Kendisi hakkında kurulmuş profile karşı yeni bir başlangıç yapamaz. Çünkü sistem yalnızca geçmişi saklamaz; geçmişi, geleceğe yöneltilmiş sürekli bir tahmine dönüştürür.
Bu nedenle mesele avlanmamak değildir. Avın sınırını belirlemek, çıkarılanın yeniden oluşabilmesine izin vermek ve hiçbir yaşam alanını bütünüyle tüketilebilir saymamaktır.
Veriye dönüşmeme hakkı da her türlü işlemeyi yasaklamaktan önce, insan hayatına kendini yenileme, unutma ve değişme payı bırakacak bir sınır talep eder.
İnsana ait olan, yalnızca saklanması gereken değildir. Bir kısmı hiç çıkarılmaması, bir kısmı ilişkilendirilmemesi, bir kısmı da zamanı geldiğinde kaybolabilmesi gerekendir.
