DeepMind Bilim İnsanından Sert Çıkış: Yapay Zeka Asla Bilinçli Olamaz
Teknoloji Haberleri - Yapay zeka bilinç tartışması, Google DeepMind bünyesindeki kıdemli bilim insanı Alexander Lerchner’in yayımladığı yeni makaleyle bambaşka bir boyuta taşındı. “The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness” başlığını taşıyan çalışma, ne kadar gelişirse gelişsin hiçbir yapay zeka sisteminin gerçek anlamda bilinç sahibi olamayacağını öne sürüyor. Lerchner’in bu çıkışı, özellikle son dönemde yapay genel zekanın (AGI) yakın olduğunu savunan teknoloji liderlerinin söylemleriyle taban tabana zıt bir tablo çiziyor.
Soyutlama Yanılgısı: Hesaplama Bilinç Yaratmaya Yetmez
Lerchner’in makalesinin merkezinde soyutlama yanılgısı (abstraction fallacy) adını verdiği kavram yer alıyor. Bu kavram, hesaplamanın tek başına bilinç üretebileceği varsayımının temelden hatalı olduğunu ortaya koyuyor. Yazara göre, hesaplama dediğimiz şey fiziksel dünyanın kendiliğinden var olan bir özelliği değil; aksine, dünyayı anlamlandıran bir öznenin varlığına bağımlı bir soyutlama biçimi. Bir yapay zeka modelinin anlamlı çıktılar üretebilmesi için, önce bir insanın dünyayı kategorilere ayırması, veriyi etiketlemesi ve sisteme anlamlı kalıplar sunması gerekiyor. Lerchner bu durumu, “haritacıya bağımlılık” (mapmaker-dependent) ifadesiyle özetliyor.
Makale, mevcut büyük dil modellerinin çalışma prensibine de ayna tutuyor. Bu sistemler devasa veri havuzlarından besleniyor, ancak kendi başlarına anlam inşa etme kapasitesinden yoksunlar. Onlar sadece sabit veri kalıplarını işleyip görev tamamlandığında duran araçlar. İçsel bir motivasyon geliştirmeleri, kendilerini koruma içgüdüsü duymaları ya da varoluşsal bir ihtiyaç hissetmeleri mümkün değil.
Bilinç Yazılımsal Değil, Fiziksel Bir Durumdur
Çalışmanın belki de en iddialı tezi, fenomenal bilincin fiziksel bir durum olduğu ve bir yazılım ürünü olarak ortaya çıkamayacağı yönünde. Lerchner burada simülasyon ile somutlaştırma (instantiation) arasına kalın bir çizgi çekiyor. Yapay zeka sistemleri bilinçli davranışları taklit edebilir, duygusal tepkiler veriyormuş gibi görünebilir, hatta felsefi sohbetlere girebilir. Ancak bütün bunlar, gerçek bir öznel deneyimin varlığı anlamına gelmiyor. Lerchner’in deyimiyle, bir sistemi simüle etmek başka şeydir, onu cisimleştirmek başka şey.
Bu yaklaşım, hesaplamalı işlevselcilik (computational functionalism) olarak bilinen ve bilincin doğru türde bir bilgi işlemeyle her türlü fiziksel altyapıda ortaya çıkabileceğini savunan hâkim görüşe doğrudan bir meydan okuma niteliğinde. Lerchner, bilincin biyolojik yapıya özel olduğunu söylemiyor; ancak yapay bir sistem bilinçli olacaksa bunun sentaktik mimarisinden değil, spesifik fiziksel yapısından kaynaklanacağını vurguluyor.
AGI Mümkün Ama Bilinçsiz Olacak
Lerchner’in çalışmasıyla ilgili en çarpıcı ayrıntılardan biri, yapay genel zekayı (AGI) tamamen reddetmemesi. Başka bir ifadeyle, insan seviyesinde ya da daha üstün bir yapay zeka geliştirilebilir. Ancak bu sistem, tüm yeteneklerine rağmen bilinç sahibi olmayacak. Bu ayrım, geleceğin süper zeki yapay zekalarının ahlaki statüsü ve hakları konusunda şimdiden önemli bir tartışma zemini yaratıyor. Eğer bir sistem bilinçli değilse, ona karşı etik yükümlülüklerimiz de bir insana ya da bir hayvana karşı olan yükümlülüklerimizden tamamen farklı olacak. Teknoloji Haberleri - Teknoloji Medya
