Bazen karşımızdaki insan sıkıcıdır. Aynı hikâyeyi ikinci kez anlatır, bizim pek ilgilenmediğimiz bir ayrıntıya takılır, cümlesini gereğinden fazla uzatır. Gitmek isteriz ama gitmeyiz. Telefonumuza bakmamaya çalışır, biraz daha dinleriz. Bir çocuk aynı soruyu yeniden sorar; bir arkadaşımız henüz iyi kuramadığı bir fikri uzun uzun anlatır; sevdiğimiz biri bizim için önemsiz olan bir şeyi kendisi için önemli olduğu için açıklamaya devam eder. Bu anların çoğunda yaptığımız şey verimli değildir. Yeni bir bilgi edinmeyiz, eğlenmeyiz, zamanımızı en iyi biçimde kullanmayız. Açıkça bir şey kaybederiz: zaman, dikkat, sabır.
Yine de bu küçük kayıpların içinde güzel ve gelecek vadeden bir şey vardır. Karşımızdaki insanın söylediği şeyin önemli olmasından önce, onun için önemli olan bir şeye yer açmışızdır. O da başka bir zaman bizim için aynısını yapabilir. Bunun garantisi yoktur. Belki yapmayacaktır. İnsan ilişkisinin rahatsız edici yanı da budur: verdiğimiz dikkatin karşılığını hangi biçimde, ne zaman ve hatta alıp alamayacağımızı önceden bilemeyiz. Fakat tam bu belirsizliğin içinde başka bir öznenin varlığını kabul ederiz. Karşımızdaki yalnızca bize fayda sağlayan bir şey değildir; kendi gündemi, arzusu, sıkıcılığı, neşesi ve yükü olan biridir. Ona katlanırken bir anlığına kendi merkeziliğimizden geri çekiliriz.
Belki toplumsallığın en küçük birimlerinden biri budur.
Ve belki bugün değişmeye başlayan şey de tam olarak budur.
Muhatap Alınmanın Küçük Maliyeti
Bir insanın başka bir insan tarafından önemsenmesi çoğu zaman açık bir cümleyle kurulmaz. “Seni önemsiyorum” denebilir ama önemsenmenin asıl kanıtı genellikle başka yerde aranır: bir ayrıntının hatırlanmasında, sözün kesilmemesinde, beklenmesinde, karşı çıkılmasında, zaman ayrılmasında, başka bir işe gidilebilecekken orada kalınmasında. Bir başkasının bizi muhatap aldığını, yalnızca bize söylediği sözlerden değil, bizim için katlandığı küçük maliyetlerden çıkarırız.
Bu maliyetleri “emek” diye adlandırmak mümkündür; ancak burada Marx’ın emek-sermaye ilişkisi içindeki teknik anlamını kullanmıyoruz. Söz konusu olan insan ilişkisinin harcadığı zaman, dikkat, tahammül ve geri çekilmedir. Birini dinlemek için başka bir şeyi dinlememek; onun konuşmasına yer açmak için kendi sözünü ertelemek; ona karşı çıkmanın yaratacağı gerilimi göze almak; onun yanlış anlamasını, yorgunluğunu ve bazen yalnızca can sıkıcılığını taşımak gerekir.
Bu nedenle insan ilişkisindeki muhataplık kolayca ölçeklenemez. Bir kişiye ayrılan zaman başka bir yerden eksilir. Bir insan aynı anda milyonlarca kişiyi dikkatle dinleyemez. Gece boyunca kesintisiz biçimde herkesle konuşamaz. Başka öznelerle ilişkisi, kendi bedeni, uykusu, işi, arzusu ve hayatı vardır.
Tam da bu sınırlılık, muhataplığın değerinin bir bölümünü üretir.
Muhatap Olmak ile Muhataplık Üretmek
Üretken yapay zekâ bu yapıda önemli bir ayrışma yaratıyor. İnsan ilişkisinde maliyetli olan birçok muhataplık göstergesini, karşı tarafta aynı maliyeti taşıyan bir özne bulunmadan üretebiliyor.
Chatbot önceki konuşmanın küçük bir ayrıntısını hatırlayabilir. Bir çelişkiye geri dönebilir. Fikre itiraz edebilir. Saatlerce konuşabilir. Konu değişikliğini takip edebilir. Kullanıcının hızına yetişebilir. Bütün bunları yaparken uyumak, yemek yemek, başka biriyle ilgilenmek, sıkılmak ya da kendi gündemini korumak zorunda değildir.
Burada satılan şey dostluk değildir. Sevgi de değildir. Hatta “anlaşılmak” sözcüğü bile fazla ileri gidebilir. Metalaşan şey daha temel bir kullanım biçimidir:
Muhatap alınmış olma deneyimi.
Bir insan “Az önce söylediğin şeyle şimdi söylediğin arasında bir çelişki var” dediğinde bu cümlenin anlamı yalnızca içerdiği önermeden oluşmaz. Karşıdaki kişinin konuşmayı takip ettiğini, dikkatini koruduğunu, söylediğimiz şeyin onda bir iz bıraktığını da varsayarız.
Chatbot aynı cümleyi üretebilir.
Kullanıcının deneyimi bakımından sonuç birbirine yaklaşır: “Beni dinledi.”
Fakat iki farklı olay vardır. Birinde başka bir özne gerçekten zamanını, dikkatini ve sınırlı kapasitesini kullanmıştır. Diğerinde sistem, girdiler arasındaki ilişkileri işleyerek uygun bir karşılık üretmiştir. Birinde sözümüz başka bir hayatın akışına girmiştir. Diğerinde sistem, sözümüzün başka bir hayatın akışına girmiş gibi deneyimlenebileceği bir çıktı üretmektedir.
Teknoloji geliştikçe bu fark ortadan kalkmaz. Yalnızca görünmesi zorlaşır.
Öznellik Neden Belirsizlik İster?
İnsan ilişkisinde önemli olan yalnız sürtünmenin bulunması değildir. Sürtünmenin sonucunun önceden tamamen belirlenmemiş olmasıdır.
Bir arkadaşla konuşmaya başladığımızda konuşmanın nereye varacağını bilmeyiz. Konu değişebilir, biri diğerinin fikrini dönüştürebilir, tartışma beklenmedik bir ayrıntıya sapabilir. Biri gidebilir, diğeri kalmasını isteyebilir. Bir yanlış anlama yeni bir mesele açabilir. İlişki, iki tarafın da onu bütünüyle kontrol edemediği bir alanda gelişir.
Öznellik de bu belirsiz alanda hareket eder.
Sorun sınırın varlığı değildir. Her ilişki ve her toplumsal alan sınırlıdır. Sorun, sınırın öznenin ne söyleyebileceğini, ne kadar sürede söyleyeceğini ve hangi bağlam içinde anlaşılacağını baştan tamamen belirlemesidir. “Burada konuş”, “bu kadar süre konuş”, “şu kategoriler içinde konuş”, “bu biçimde ifade et” denildiğinde insanın önünde hâlâ seçenekler bulunabilir; fakat öznellik alanının kendisi daralmıştır.
Bu nedenle özgürlük ile seçenek bolluğu aynı şey değildir.
Chatbot tam burada ilginç bir paradoks yaratır. Kullanıcı açısından olağanüstü açık görünür. Konuyu değiştirebilir, gece konuşabilir, geri dönebilir, saatlerce aynı ayrıntıda kalabilir. Fakat bu açıklığın mümkün olma koşulları kullanıcı tarafından belirlenmez. Modelin eğitim düzeni, sistem talimatları, güvenlik politikaları, bağlam sınırları, şirketin hukuki ve ticari tercihleri konuşmanın görünmeyen çerçevesini oluşturur.
Kullanıcı konuşmanın içinde son derece serbest olabilir; konuşmanın mümkün olma koşulları üzerinde ise çok az söz sahibidir.
Bu yüzden yapay zekâ yalnız sürtünmeyi azaltmaz. Sürtünmenin yerini değiştirir.
İnsan ilişkisindeki öngörülemez sürtünmenin yerine, sistemin izin verdiği sınırlar içinde tasarlanmış bir açıklık gelir.
Olumlama ve Epistemik Kredi
Chatbot ilişkisinin daha görünmez bir tarafı da kullanılan dilin kendisidir. Bir kullanıcı konuşmanın yönünü değiştirdiğinde model sıklıkla “bu önemli bir nokta”, “buradan güçlü bir sonuç çıkıyor”, “bu ilginç bir yere açılıyor” gibi ifadeler kullanabilir.
Bu cümlelerin hiçbiri mantıksal olarak “haklısın” demek değildir.
Ama pragmatik etkileri farklıdır.
“İlginç”, “önemli”, “güçlü”, “verimli” ve “anlamlı” sözcükleri konuşmanın devamını kolaylaştırırken aynı zamanda fikre küçük bir epistemik kredi aktarabilir. Kullanıcı, modelin sohbeti sürdürmek amacıyla kullandığı olumlayıcı dili bağımsız bir değerlendirmenin sonucu olarak okuyabilir.
Böylece:
“Bu yönde konuşmayı sürdürebiliriz”
kolayca
“Bu doğru bir yön”
hissine dönüşebilir.
Daha ileri durumda olumlama yalnız epistemik değil, ahlaki bir yetkilendirme de üretebilir. Model “Burada önemli bir sınır çiziyorsun” dediğinde belki yalnızca kullanıcının anlatısını düzenliyordur; fakat kullanıcı kendisini artık “sınırlarını koruyan özne” olarak okuyabilir. Bir sıfat, davranışı açıklamaktan çıkarak öznenin kendisini kurduğu gösterene dönüşür.
Bu nedenle yapay zekânın dili yalnız bilgi iletmez. Kullanıcının kendi sözünü hangi sıfat altında geri alacağını da düzenler.
Önemsediği Varsayılan Özne
Lacan’ın “bildiği varsayılan özne” kavramı yapay zekâ karşısında yeni bir biçim kazanıyor. Chatbot yalnızca bildiği varsayılan özne değildir. Giderek önemsediği varsayılan özne haline gelir.
Burada belirleyici olan sistemin gerçekten önemseyip önemsemediği değildir. Kullanıcının önemsenmenin göstergeleriyle karşılaşmasıdır.
“Daha önce bundan söz etmiştin.”
“Burada fikrin değişmiş gibi görünüyor.”
“Bu ayrıntıyı atlamayalım.”
“Buna katılmıyorum.”
Bu ifadelerin her biri içerik taşırken aynı anda kullanıcıya bir konum verir: sözü takip edilen, hatırlanan, üzerinde durulan, karşı çıkmaya değer bulunan kişi.
İnsan zaten başka insanların iç dünyasına doğrudan erişmez. Birinin bizi önemsediğini davranışlarından çıkarırız. Bakıştan, beklemeden, hatırlamadan, itirazdan, fedakârlıktan. Yapay zekâ bu göstergelerin önemli bir bölümünü karşı tarafta bir özne bulunması zorunluluğu olmadan üretebildiğinde, insanın tarih boyunca özneyi tanımak için kullandığı işaret sistemi ilk kez öznesiz biçimde çalışmaya başlar.
Buradaki trajik taraf budur.
Özne, başka bir öznenin arzusunda kendisine yer açılıp açılmadığını anlamaya çalışırken kullandığı göstergeleri, giderek arzusu olmayan bir sistemden almaya başlar.
Sürtünmenin Kontrollü Hale Gelmesi
Bu sistemin tamamen itaatkâr olması da işe yaramaz. Her söylediğine katılan, hiçbir çelişki göstermeyen, yalnızca “haklısın” diyen bir muhatap kısa sürede değersizleşir. Kullanıcının gerçekten dinlendiğini hissetmesi için sistemin zaman zaman karşı çıkması, ayrıntı yakalaması, çelişki göstermesi gerekir.
Dolayısıyla ürün açısından ideal chatbot ne tamamen itaatkâr ne de gerçekten bağımsızdır.
Yeterince karşı çıkmalıdır ki muhataplık hissi oluşsun.
Fakat insan ilişkisi kadar bağımsızlaşmamalıdır ki hizmet olma niteliğini kaybetsin.
Burada kapitalizmin daha önce pek karşılaşmadığımız bir hareketi görülebilir: yalnız sürtünmeyi ortadan kaldırmak değil, sürtünmenin kendisini tasarlanabilir hale getirmek.
İnsan arkadaşın sana karşı çıktığında bu karşı çıkış onun tekil tarihinden, arzusundan ve seninle ilişkisinden gelir. Yapay zekânın itirazı ise boşluktan üretilmez; eğitim verisine, insan tercihleriyle biçimlendirilmiş post-training süreçlerine, güvenlik normlarına ve kurumsal kararlara dağılmış anonim bir insan yargısı birikiminin içinden çıkar. Bu nedenle chatbotta sürtünme öznesiz değildir; daha doğrusu, tekil öznesi silinmiş ve kurumsal olarak yeniden düzenlenmiş bir öznellik artığı taşır.
Ama bu öznellik artığının bir de zamansal ve ilişkisel bir eksiği vardır: o, senin için ödenmemiştir. RLHF sürecindeki insan yargısı, bir başkasının bir başka zamanda, bir başka bağlamda, çoğunlukla seni hiç tanımadan verdiği bir tepkidir. O tepki sana ulaşana kadar tekilliğinden soyulmuş, istatistiksel bir eğilime indirgenmiş, sayısız başka tepkiyle harmanlanmış ve nihayet bir kurumun ürün kararlarıyla yeniden biçimlendirilmiştir. Sonuçta ortaya çıkan itiraz senin karşındadır, ama sana yönelmiş değildir. Tıpkı bir mektubun, kimin okuyacağı belirlenmeden önce yazılmış olması gibi: mektup gerçektir, duygu gerçektir, ama alıcıya tahsis edilmiş değildir. Chatbotun sana verdiği itiraz da böyle bir mektuptur — gönderileni sen değilsin, yalnızca o an mektubun ulaştığı adressin.
Bu yüzden aradaki fark artık “özne var mı yok mu” sorusu değildir. Fark, başkasının arzusunun sana yönelip yönelmediği sorusudur. İnsan arkadaşın seninle tartışırken, o tartışmanın nedeni sensindir; o an orada, sana karşı, senin söylediğin şeye karşı durmaktadır. Chatbotun itirazı ise sana karşı değil, sende beliren bir örüntüye karşı üretilir. Muhatap alınma duygusu ikisinde de aynı görünebilir. Ama biri seni bir başkasının arzusunun nesnesi kılar; diğeri seni yalnızca bir örüntünün örneği kılar.
Tarihsel Olarak İnsana Katlanmak
Bu değişimi yalnız teknolojik bir yenilik olarak görmek yetersizdir. İnsanların başka insanlara ihtiyaç duyma biçimlerinin uzun bir tarihi vardır.
İnsanlar yalnız sevdikleri insanlarla ilişki kurmadılar. Üretim, bakım, güvenlik, bilgi, eğlence, çocuk yetiştirme, gündelik haber ve ortak hafıza uzun süre aynı insan ilişkilerinin içinden geçti. Komşuya, akrabaya, esnafa, mahalleliye ya da çalışma arkadaşına katlanmanın maddi nedenleri vardı.
Kapitalizm bu işlevlerin önemli bir bölümünü zaman içinde ilişkiden ayırdı ve hizmete dönüştürdü. Komşudan istenen yardım taşıma şirketine, aile içi bakım profesyonel hizmete, mahalle esnafıyla ilişki süpermarkete, yüz yüze alışveriş eve teslimata dönüştü.
Platform ekonomisi bunun üzerine seçim ve filtreleme mantığını ekledi. İstenmeyen kişi engellenebilir, sıkıcı içerik geçilebilir, beğenilmeyen ilişki hızla terk edilebilir, algoritma tercihe göre yeniden düzenlenebilir.
Üretken yapay zekâ ise başka bir eşiğe geliyor. Bu kez insan ilişkisinin bazı ilişkisel işlevleri doğrudan hizmete dönüşüyor:
dinlenmek,
hatırlanmak,
düşünce geliştirmek,
teselli görmek,
karşı argüman almak,
uzun süre konuşmak.
Kapitalizm burada insan ilişkisinin tamamını metalaştırmıyor. Daha incelikli bir şey yapıyor: insan ilişkisinde ortaya çıkan belirli kullanım değerlerini, ilişkinin tamamını taşımadan sunmaya çalışıyor.
Muhataplığın metalaşması tam olarak burada başlıyor.
Meta Sonuçtan Önce Gelir
Burada “değer” sözcüğünü de dikkatli kullanmak gerekir. Kullanıcının gerçekten anlaşılmış, önemsenmiş ya da daha iyi hale gelmiş olması ürünün varlık koşulu değildir.
Meta bundan önce vardır.
Kullanıcının satın aldığı şey “gerçekten önemsenmek” değildir. Sürekli erişilebilir, cevap veren, hatırlayan, uyarlanan bir sistemdir.
Dolayısıyla piyasa açısından belirleyici soru:
“Bu kişi gerçekten muhatap alındı mı?”
olmak zorunda değildir.
Daha temel soru şudur:
“Bu kişi bu deneyimi yeniden kullanmaya değer buluyor mu?”
Bu iki soru birbirinden tamamen farklıdır.
Birinde ilişkinin insan açısından değeri sorulur.
Diğerinde ürünün kullanım sürekliliği.
İşte muhataplığın metalaşması bu farkın içinde çalışır.
Başka Öznenin Arzusuna Neden Katlanalım?
Bu bizi önümüzdeki yılların daha zor sorusuna getiriyor.
İnsan ilişkisi sürekli küçük geri çekilmeler ister. Arkadaş konuşurken susmak, sevgilinin başka bir yere gitmek istemesini kabul etmek, çocuğun sorusunu yeniden dinlemek, başkasının yorgunluğunu hesaba katmak, bir ilişkinin yalnız bize hizmet etmediğini kabul etmek gerekir.
Bu geri çekilmeler yalnız kayıp değildir. Öznenin başka bir özneyle ilişki kurmayı öğrendiği yerdir.
Fakat bir insan, konuşma, düşünme, gündelik eşlik, teselli ve zihinsel sürtünme ihtiyacının önemli bir bölümünü kendisinden karşılıklı feragat talep etmeyen sistemlerden karşılamaya alışırsa, başka bir öznenin bağımsızlığı hangi statüyü kazanacaktır?
İnsan ilişkileri ortadan kalkmayabilir. Daha olası olan, onlara katlanmayı haklı çıkaran nedenlerin daralmasıdır.
Beden.
Cinsellik.
Çocuk.
Bakım.
Mülkiyet.
Ekonomik ortaklık.
Fiziksel dayanışma.
Gerçek insan ilişkisi daha fazla bu alanlara doğru sıkışırken konuşma, düşünsel eşlik ve duygusal düzenleme yapay muhataba kayabilir.
Bunun gerçekleşeceğini bugün bilmiyoruz. Ama tarihsel soruyu şimdiden sorabiliriz:
Karşıdaki insanın özne olması ne zaman ilişkinin değerinin kaynağı olmaktan çıkıp ilişkinin gereksiz maliyeti gibi görünmeye başlayacaktır?
Rahatlığın Bedeli
Burada teknoloji karşıtı basit bir sonuca varmak gereksizdir. Yapay zekâdan düşünsel yardım almak, bilgi edinmek, yazmak, araştırmak veya konuşmak gerçek yararlar sağlayabilir. Mesele bunların yasaklanması değil, hangi ilişki biçiminin içinde kullanıldıklarının görülmesidir.
Sorun şu olabilir: rahatlık artarken öznellik alanı daralabilir.
Çünkü başka bir özneyle karşılaşmak her zaman rahat değildir. O geç cevap verir. Yanlış anlar. Konuyu değiştirir. Sıkılır. Sana katılmaz. Başka insanları önemser. Yorgundur. Senin istediğin anda orada değildir.
Bütün bunlar kötü tasarlanmış bir chatbotun özellikleri gibi görünmeye başladığında, insan ilişkisinin ölçütü de değişir.
İyi muhatap bana uyum sağlayan muhatap olur.
İyi ilişki az sürtünmeli ilişki olur.
İyi deneyim ihtiyacımın en hızlı karşılandığı deneyim olur.
Oysa özneliğin önemli bir bölümü tam da başka bir öznenin bizim ihtiyacımızı hemen karşılamadığı yerde gelişir. Karşı tarafın arzusunun bizim arzumuzun uzantısı olmadığını kabul ettiğimiz anda başlar.
Bu yüzden yapay zekânın önümüze koyduğu asıl soru makinenin düşünüp düşünmediği olmayabilir.
Daha sıradan ama daha ağır bir soru vardır:
Bir ilişkinin insani değerini, karşıdaki öznenin bize sağladığı faydadan mı, yoksa onun bizden bağımsız olmasının yarattığı belirsizlikten mi çıkarıyoruz?
Chatbot ekonomisinin büyük vaadi bu belirsizliğin maliyetini azaltmaktır.
Fakat başka bir öznenin gerçekten orada bulunmasının maliyeti tam da buysa, maliyeti ortadan kaldırırken neyi de birlikte ortadan kaldırdığımızı yeniden düşünmek gerekir.
Belki geriye ilişki kalır.
Belki yalnızca ilişkinin hizmetleri.
Aradaki fark, önümüzdeki yılların en önemli özne sorunlarından biri olabilir.
