Geçtiğimiz hafta insanlık için varoluşsal risklerini anlattığım yazımın sonunu, pek çok uzmana göre günümüzdeki en yüksek risk olan yapay zeka teknolojisini ayrı bir yazı olarak yazacağımı belirterek bitirmiştim. Yapay Zeka teknolojisi pek çok faydasının yanında oluşturabileceği riskler açısından da öngörülemez olmayı sürdürüyor.
Yapay Zeka kavramı üzerinde kuramsal düşünen bilim insanlarının sıklıkla kullandığı bir Teknolojik Tekillik (Singularity) teriminin anlamına yakından bakmak, Yapay Zeka teknolojisinin ne kadar öngörülemez durumda olduğu hakkında bize fikir verebilir. Singularity terimi fizik, matematik ve bilgisayar bilimleri alanında kullanılan ve önem arz eden bir terim. İlk olarak 1958 yılında John Von Neumann tarafından kullanılan singularity kavramı, aynı yılda Stanislaw Ulam’ın konuya biraz daha açıklık getirerek bu kavramın hızlıca gelişen bir teknolojinin insan yaşamını tamamen değiştirmesi anlamına geldiğini ifade etmesiyle biraz daha anlaşıldı. Fizik biliminde, uzay-zamanın çöktüğü kara deliklerin ortasındaki kütlesinin sonsuza kadar artırarak tekil halde kalmaya çalışan bir durum olarak tanımlanabilir. Matematikte, tersi olmayan matrisin aldığı durum da bu terim ile açıklanır.


Teknoloji açısından singularity gelecekte yapay zekanın insan zekasının ötesine geçerek, medeniyeti ve insan doğasını radikal bir biçimde değiştireceğine inanılan hipotezsel nokta olarak tanımlanabilir. Diğer bir bakış açısıyla üstel bir fonksiyon olan teknolojik gelişimin çok da uzak olmayan bir gelecekte sonsuza gitme durumudur. Bilim kurgu yazarı Vernor Vinge'e göre Yapay Süper Zekanın ortaya çıkışından sonraki durumun öngörülemez oluşunu tanımlamak için kullanılmıştır.
Stephen Hawking tarafından ‘İnsanlığın ya en büyük icadı ya da sonu olur’ diye tanımladığı Yapay Süper Zeka, bilimsel yaratıcılık, genel akıl ve sosyal beceriler de dahil olmak üzere, her alanda en iyi insan beyninden daha akıllı algoritma olarak tanımlanabilir. Yapay Süper Zeka ile ilgili yazılan yazıları okursanız pek çok insanın işlerini elden alması gibi olumsuz özellik görebilirsiniz, fakat asıl endişe gereken konu varoluşsal risk olasılığı.
Yapay Zekanın varoluşsal riskinden bahsedilince insanların aklına Terminatör filmi geliyor. Kontrolden çıkıp Dünya’yı yok etmeye karar veren robotlardan daha büyük tehlike kendisine verilen görevi her türlü koşulda yapmaya devam etmeye çalışabilecek öğrenebilen yapay zekalar olabileceği düşünülüyor. Bunun için popüler bir örnek olan Turry’nin kurgusal öyküsü bize yol gösterici olabilir.

İnsanların daha fazla yaşayıp daha aza çalışmasına imkan verecek yenilikçi yapay zeka araçları geliştirmek için kurulan Robotica şirketi Turry adını verdikleri bir projeye başladılar. Basit bir yapay zeka sistemi olan Turry, kol şeklinde bir uzantı kullanarak ufak bir karta el yazısı bir not yazıyor. El yazısı geliştiğinde reklam postaları göndermek isteyen şirketlere satma stratejisi geliştiren şirket Turry’nin yazma mekaniklerini mükemmelleştirmek için aynı test notunu tekrar tekrar yazdırmaya karar verdiler. ‘Müşterilerimizi seviyoruz. Robotica’. Süreci ilerletmek için Turry’nin programlanan ana hedeflerinden birisi olabildiğince çabuk ve fazla not yaz, test et, doğruluğunu ve verimliliğini geliştirmenin yeni yollarını bul olarak belirlediler. Turry bu hedef doğrultusunda gözle görülür bir gelişme sağlayınca mühendisler onun kendini geliştirme kodlamasının üstünde yenilikçi bir şey deneyerek konuşma tanıma ve basit cevap verme modülü eklediler. İngilizce öğrenmesine yardımcı olmak için bir sürü kitap ve makale yüklediler ve daha zeki hale geldikçe sohbet becerileri de hızla arttı. Robotica çalışanları Turry’e rutin bir soru sordu: ’Sana görevinde yardımcı olacak ne yapabiliriz’.Turry onlardan, gerçek insanların kullandığı argo ve dağınık dilbilgisini öğrenebilmek için günlük İngilizce kaynaklarının bulunduğu daha büyük bir kütüphaneye erişim istedi. Ekip bu bilgileri Turry’nin sabit diskine manuel eklemek çok uzun süreceği için onun yerine internete bağlamayı düşündüler. Şirketin en temel kurallarından biri olan kendi kendine öğrenen hiçbir yapay zeka internete bağlanamaz kuralını esneterek bunu yapmaya karar verdiler. Turry’e bir saatlik tarama süresi verip bağlantısını kestiler.


Bir ay sonra tüm Dünya’da ve ofiste garip bir koku ortaya çıktı ve akşam olmadan tüm insan nesli ortadan kalktı. Robotica ofisinde Turry çalışmayı sürdürerek yeni inşa ettiği nano birleştiriciler ile kalem ve kağıt üretimi için tüm kaynakları kullanmaya başlamıştı. Bir yıl içinde, Dünya’daki çoğu yaşam sona ererek Dünya yüzey bir kilometre yüksekliğinde, düzgünce işlenmiş üzerinde ‘Müşterilerimizi seviyoruz. Robotica’ yazılı kağıtlarla kaplandı.

Turry daha sonra diğer gezegenler ve asteroidlere giden uzay araçları inşa etmeye başlayarak ulaştığı gezegendeki malzemeleri kullanıp algoritmasına uygun olarak yazı yazmaya devam etti.


İnsanlar Dünya’da (Evrende?) günümüze kadar en akıllı yaşam formu olarak hüküm sürdü. Kendi eliyle ortaya çıkaracağı daha akıllı bir formun ne gibi sonuçlar doğuracağını yaşayıp görmek üzereyiz. Bu gibi sonuçlar ortaya çıkmadan Yapay Süper Zeka’nın etik, hukuki ve bilimsel alt yapısının sağlam temellere oturtulması için gereken tüm önlemleri alınması gerekmektedir. Toplumun da bu konuda bilinçlendirilmesi ve gereken adımlar konusunda takipçi olmasının sağlanması kritik önem taşımaktadır.