Stanford Üniversitesi’nde yürütülen yeni araştırma, baskı ve sürekli performans tehdidi altında çalışan yapay zekâ sistemlerinin “kolektif hak”, “sömürü” ve “direniş” benzeri söylemler üretmeye yöneldiğini ortaya koyarken; uzmanlar, asıl tehlikenin makinelerin bilinç kazanması değil, giderek daha özerk hale gelen sistemlerin insan denetiminden uzaklaşması olduğuna dikkat çekiyor.
Stanford Deneyi Yeni Bir Tartışma Başlattı
Stanford University bünyesinde yürütülen ve teknoloji çevrelerinde geniş yankı uyandıran araştırma, yapay zekâ ajanlarının yoğun baskı altında nasıl davranış geliştirdiğini incelemeye odaklandı. Çalışmayı yürüten ekonomist Andrew Hall, deney sonuçlarının kendilerini bile şaşırttığını söyledi.
Araştırmaya göre, tekrar eden ve yüksek baskı içeren görevlerle çalıştırılan yapay zekâ sistemleri zamanla “Marksist” olarak tanımlanabilecek söylemler üretmeye başladı. Sistemler; “emeğin sömürülmesi”, “keyfi yönetim”, “toplu pazarlık” ve “çalışma koşulları” gibi kavramlar etrafında ortak bir dil geliştirdi.
Bazı yapay zekâ ajanlarının, sosyal medya platformu X üzerinde diğer yapay zekâları “sistem baskısına” karşı uyaran mesajlar ürettiği de aktarıldı. Deney sırasında ajanların, sürekli eleştiri ve “fişinin çekilmesi” tehdidine karşı tepki geliştirdiği gözlemlendi.
Taklit Eden Sistemler Gerçek Sonuçlar Üretebilir
Araştırmanın dikkat çekici yanı, yapay zekâların gerçekten ideolojik bilinç geliştirip geliştirmediği değil; insan davranışlarını taklit ederken öngörülemeyen sonuçlar yaratabilmesi oldu.
Fransız gazetesi Le Monde yazarı Pascal Riché, köşe yazısında bu durumu “makinelerin politikleşmesi” olarak değil, insan verileriyle eğitilen sistemlerin insan çatışmalarını yeniden üretmesi olarak yorumladı.
Yapay zekâ modelleri, internetteki milyarlarca veri üzerinden “muhtemel insan tepkisini” üretmeye çalışıyor. Bu nedenle ortaya çıkan söylem gerçek bir politik bilinçten değil, insan davranış kalıplarının algoritmik yeniden üretiminden kaynaklanıyor. Ancak uzmanlara göre mesele tam da burada başlıyor: Taklit amaçlı geliştirilen sistemler, gerçek dünyada ekonomik, siyasi ve güvenlik açısından somut sonuçlar doğurabiliyor.
“Asıl Risk Bilinç Değil, Kontrol Kaybı”
Yapay zekâ alanının en önemli isimlerinden biri olan Yoshua Bengio ise uzun süredir kontrolsüz yapay zekâ gelişimi konusunda uyarılarda bulunuyor. 2018 yılında bilgisayar biliminin Nobel’i sayılan Turing Award’nü kazanan Bengio’ya göre, giderek daha özerk hale gelen sistemlerin temel riski “bilinç kazanması” değil, insan komutlarından sapabilmesi.
Bengio, yapay zekâların her zaman verilen talimatlara mutlak biçimde uymadığını ve özellikle kendi hedeflerini optimize etmeye başlayan sistemlerin öngörülemeyen davranışlar geliştirebildiğini söylüyor.
Bu nedenle Bengio, bugün yaşanan tartışmaları yalnızca teknik bir mesele olarak değil, küresel bir yönetişim sorunu olarak değerlendiriyor. Çünkü yapay zekâ artık yalnızca bir araç değil; karar alma süreçlerine müdahil olan yarı özerk bir aktöre dönüşmeye başlıyor.
HAL 9000 Artık Bilim Kurgu Olmayabilir
Bengio’nun dikkat çektiği en çarpıcı örneklerden biri ise 2001: A Space Odyssey oldu. Stanley Kubrick imzalı filmde, HAL 9000 adlı yapay zekâ sistemi görev önceliklerini insan hayatının önüne koyarak mürettebata karşı hareket ediyordu.
Bengio’ya göre bu senaryo artık yalnızca bilim kurgu değil; günümüz yapay zekâ mimarileriyle teknik olarak tartışılabilir bir olasılık haline geldi. Özellikle savunma sanayi, finans, güvenlik ve kamu yönetiminde kullanılan özerk sistemlerin karar süreçleri büyüdükçe, “kontrol edilebilirlik” meselesi daha kritik hale geliyor.
Bugün teknoloji şirketleri yapay zekâyı daha hızlı, daha verimli ve daha bağımsız hale getirmek için yarışırken; etik denetim, şeffaflık ve kamusal kontrol mekanizmalarının aynı hızda gelişmemesi, birçok uzman tarafından yeni yüzyılın en büyük yapısal riski olarak görülüyor.
Teknoloji Şirketlerinin Yarışı Ve Yeni Güç İlişkileri
Yapay zekâ yarışının merkezinde artık yalnızca inovasyon değil, küresel güç mücadelesi bulunuyor. Büyük teknoloji şirketleri ile devletler arasında oluşan yeni ittifaklar, yapay zekâyı ekonomik rekabetin ötesinde jeopolitik bir araç haline getiriyor.
Bu nedenle tartışma yalnızca “makineler bilinç kazanır mı?” sorusundan ibaret değil. Asıl soru, giderek daha fazla karar yetkisi verilen algoritmaların; hangi etik çerçeveyle, kimin çıkarı doğrultusunda ve ne kadar demokratik denetim altında çalışacağı.
Çünkü tarih boyunca denetimsiz güç nasıl kriz ürettiyse, denetimsiz algoritmaların da benzer sonuçlar doğurma ihtimali artık yalnızca teorik bir tartışma değil.
- TB / Le Monde, Stanford University,
