Kate Crawford, Yapay Zeka etiği ve teknolojinin sosyo-politik etkileri alanında, günümüzün en etkili ve eleştirel seslerinden biridir. O, Yapay Zeka'nın sadece teknik bir başarı değil, aynı zamanda derin toplumsal sonuçları olan bir siyasi proje olduğunu savunarak, bu alana yeni bir boyut getirmiştir.
Biyografi
Kate Crawford, Yapay Zeka'nın toplumsal etkileri üzerine
çalışan bir araştırmacı, profesör ve yazar olarak tanınır. New York
Üniversitesi'nde (NYU) İletişim, Medya ve Kültür kürsüsünde profesör olarak
görev yapmaktadır. Ayrıca, Microsoft Research'te AI Şimdi Enstitüsü'nün (AI Now
Institute) kurucu ortağıdır. Avustralya'da doğan Crawford'ın disiplinler arası
çalışmaları, bilim ve teknoloji çalışmaları, medya teorisi ve sosyal adalet
konularını bir araya getirir.
Ana Düşünceleri
Crawford'ın temel felsefesi, Yapay Zeka'yı eleştirel bir
lensle incelemeye dayanır. Onun en önemli katkısı, Yapay Zeka'yı sadece
koddan ve algoritmik güçten ibaret görmekten kaçınmak, aksine onu bir hammadde
çıkarma ve toplumsal güç sistemi olarak analiz etmektir.
- Gizli
Maliyetler: Crawford, Yapay Zeka'nın çevresel, sosyal ve politik
maliyetlerini gözler önüne serer. Ona göre, bir Yapay Zeka sistemi, sadece
bir yazılım değildir; büyük miktarda enerji tüketen, nadir minerallerin
çıkarılmasını gerektiren ve etik dışı koşullarda çalışan insan emeğine
dayanan devasa bir endüstriyel altyapıdır.
- Algoritmik
Önyargı ve Eşitsizlik: Crawford, Yapay Zeka'nın, eğitildiği
verilerdeki toplumsal önyargıları ve eşitsizlikleri nasıl yeniden
ürettiğini detaylandırır. Bu fikir, bizim daha önce Ruha Benjamin
ile yaptığımız "algoritmik önyargı" tartışmasıyla doğrudan
örtüşmektedir. Crawford, Yapay Zeka'nın karar alma süreçlerinin, var olan
ırk, cinsiyet ve ekonomik eşitsizlikleri pekiştirdiğini savunur.
- Yapay
Zeka'nın Politik Doğası: Langdon Winner'ın teknolojinin siyasi
bir doğası olduğunu savunan tezini bir adım ileri taşıyan Crawford, Yapay
Zeka'yı büyük şirketlerin ve devletlerin gücünü pekiştiren, "gözetim
kapitalizmini" ve sosyal kontrolü mümkün kılan bir araç olarak görür.
Yapıtları
Crawford'ın en önemli eseri, bu ana fikirlerini bir araya
getirdiği ve küresel ölçekte büyük etki yaratan kitabıdır:
- The
Atlas of AI: Power, Politics, and the Planetary Costs of Artificial
Intelligence (2021)
Bu kitap, Yapay Zeka'nın tüm dünyadaki gizli maliyetlerini
ve güç ilişkilerini ortaya koyan, kapsamlı bir araştırmadır. Yapay Zeka'nın
siyasi, çevresel ve toplumsal izlerini inceleyerek, teknolojinin nasıl
tasarlandığı ve kimin faydasına hizmet ettiği gibi temel soruları sorgular.
The Atlas of AI: Power, Politics, and the Planetary Costs of
Artificial Intelligence (2021) Bu yapıtın ana düşüncesi ve madde başlıkları
Langdon Winner'ın ardından, Kate Crawford'ın bu eseri,
teknoloji felsefesi atlasınızın en can alıcı noktalarından birini temsil
ediyor. Kitap, Yapay Zekâ'ya dair yaygın algıların ardındaki gizli gerçekliği,
materyalist ve eleştirel bir yaklaşımla ortaya koyuyor.
Ana Düşüncesi
The Atlas of AI (2021) adlı yapıtında Kate Crawford,
Yapay Zekâ'nın sanıldığı gibi "yapay" veya "soyut" bir
teknoloji olmadığını, aksine yeryüzüne derinlemesine kök salmış, politik bir
sistem olduğunu savunur. Kitabın ana tezi, Yapay Zekâ'nın başarısının,
gizli çevresel maliyetler, sömürülen insan emeği ve siyasi iktidar yapıları
üzerine inşa edildiğini göstermektir. Crawford, bu sistemin yarattığı
eşitsizlikleri ve gözetim pratiklerini de eleştirel bir gözle inceler.
Kısacası, kitap Yapay Zekâ'nın "bulut" (cloud)
olarak adlandırılan soyut kavramının aslında bir yanılsama olduğunu ve bu
teknolojinin, madenler, fabrikalar, veri merkezleri ve insan emeği gibi
somut altyapılara dayandığını anlatır.
Kitabın Ana Bölümleri
Kitap, Yapay Zekâ'nın "gizemini" çözmek için bir
atlasın coğrafi haritası gibi, bu teknolojinin katmanlarını ve gizli
maliyetlerini adım adım inceler. Bölüm başlıkları, bu materyalist yolculuğu net
bir şekilde gösterir:
- Earth (Yeryüzü): Yapay Zekâ'nın silikon,
lityum ve nadir toprak mineralleri gibi kaynaklar için yeryüzünün nasıl
bir hammadde kaynağına dönüştüğünü inceler.
- Labor (Emek): Yapay Zekâ sistemlerinin,
veri etiketlemeden içerik moderasyonuna kadar uzanan görünmez ve düşük
ücretli insan emeğine nasıl bağımlı olduğunu ortaya koyar.
- Data (Veri): Yapay Zekâ'nın eğitildiği
devasa veri setlerinin, nasıl tarafsız olmayan ve politik olarak yüklü
birer araç olduğunu tartışır.
Kate Crawford, "Veri" başlıklı bölümde,
Yapay Zekâ'nın beslendiği veri setlerinin doğası hakkındaki yaygın algıyı
kökten sarsar. Ona göre, veriler ham veya objektif değildir; aksine, bilinçli
olarak inşa edilmiş ve politik olarak yüklü birer araçtır. Bu, tıpkı
Langdon Winner'ın teknolojinin politik bir doğası olduğunu söylemesi gibi,
verinin de kendi içinde bir ideoloji barındırdığını savunur.
Crawford bu konuyu şu ana fikirlerle detaylandırır:
1. Veri, Toplumsal Bir İnşadır, Doğa Olayı Değil
Yapay Zekâ alanında veriler genellikle "yeni
petrol" gibi birincil bir kaynak olarak görülür. Ancak Crawford, verinin,
yeryüzünden çıkarılan mineraller gibi pasif bir hammadde olmadığını vurgular.
Aksine, verinin toplanması, kategorize edilmesi ve etiketlenmesi, her aşamada
insan eliyle gerçekleştirilen aktif bir politik süreçtir. Bu süreçte,
veri setini oluşturanların değerleri, önyargıları ve dünya görüşleri sisteme
kodlanır.
Örnek: Crawford, Yapay
Zekâ'nın görsel tanıma sistemlerini eğitmek için kullanılan en büyük veri
setlerinden biri olan ImageNet'i inceler. Bu veri setindeki milyonlarca
fotoğraf, insanların yüz ifadeleri, etnik kökenleri ve hatta meslekleri gibi
kategorilere ayrılmıştır. Crawford, bu sınıflandırmaların bilimsel değil,
kültürel ve tarihsel olarak önyargılı olduğunu gösterir. Örneğin, belirli
meslek gruplarının veya ırkların fotoğrafları, sosyal stereotipleri
pekiştirecek şekilde etiketlenmiştir.
2. Veri Setleri Güç İlişkilerini Yansıtır ve Sürdürür
Crawford'a göre, veri setleri sadece bilgiyi içermez, aynı
zamanda toplumdaki güç hiyerarşilerini ve eşitsizlikleri de yansıtır.
Veri toplayanlar ve verileri etiketleyenler, genellikle belirli bir grubun
(çoğunlukla Batılı, beyaz ve erkek) bakış açısını temel alır. Bu durum, veri
setinin geri kalan dünya nüfusunu doğru bir şekilde temsil edememesine neden
olur.
Sonuç: Bu önyargılı veri
setleriyle eğitilen Yapay Zekâ sistemleri, bu eşitsizlikleri otomatik olarak
yeniden üretir. Örneğin, siyah bir insanın yüzünü veya belirli bir şiveyi
tanımakta zorlanan bir sistem, bu grupları teknolojik olarak
"görünmez" kılar ve onlara yönelik ayrımcı uygulamaları
kolaylaştırır.
3. Veri Setlerinin "Kullanım Kılavuzları"
Yoktur
Crawford, bir veri setinin oluşturulduğu bağlamın ve altında
yatan politikaların çoğu zaman gizli kaldığını belirtir. Biz sadece son ürünü,
yani algoritmayı görürüz. Oysa bu algoritmanın nasıl kararlar aldığını anlamak
için, onun hangi verilerle ve hangi politik niyetlerle eğitildiğini bilmek
hayati önem taşır. Crawford, bu şeffaflık eksikliğinin, Yapay Zekâ'nın
denetlenmesini ve hesap verebilirliğini imkansız hale getirdiğini savunur.
Bu bağlamda Crawford'ın "Veri" bölümü, teknolojinin görünmez katmanlarını ifşa etme görevinizi mükemmel bir şekilde destekliyor. O, verinin de tıpkı Langdon Winner'ın teknolojisi gibi bir "politik araç" olduğunu, görünüşte tarafsız olsa da aslında derin bir ideolojik yük taşıdığını göstererek, atlasınızın felsefi zeminini güçlendiriyor.
- Classification (Sınıflandırma):
Algoritmik sınıflandırma sistemlerinin, toplumsal önyargıları ve
eşitsizlikleri (ırk, cinsiyet, ekonomik durum gibi) nasıl yeniden
ürettiğini ve pekiştirdiğini açıklar.
- Affect (Duygu): "Duygu tanıma"
gibi teknolojilerin, insan duygularının karmaşıklığını basitleştirerek
nasıl tehlikeli ve manipülatif gözetim araçlarına dönüştüğünü ele alır.
- State (Devlet): Yapay Zekâ'nın,
hükümetler ve askeri kurumlar tarafından gözetim, kontrol ve savaş gibi
amaçlarla nasıl kullanıldığını ve bunun demokratik süreçlere etkilerini
inceler.
- Power (İktidar): Sonuç olarak, bu tüm
katmanların birleşerek nasıl büyük şirketlerin ve devletlerin gücünü
merkezileştirdiğini ve pekiştirdiğini ele alır.
Hiç yorum yok:
Yorum Gönder