Yapay zeka veya Skynet veya dünyanın sonu

Uzmanlar, sinema endüstrisi, yazılım geliştiricileri, herkes uyarıyor: Yapay zeka yazılımları kontrolden çıkarsa büyük felaketler bizi bekliyor. Peki durum gerçekten endişe verici mi?

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

İnsan Hakları İzleme Örgütü’nün raporuna göre Çin Hükümeti, Şincan bölgesinde bireyler hakkında çeşitli veriler toplayarak polise şüpheli listesi hazırlayan bir yazılım kullanıyor. “Entegre Operasyon Platformu” adı verilen yazılım, güvenlik kamerası görüntülerinden, banka ve sağlık kayıtlarına, telefonlarla wi-fi’ye bağlanılan noktalara kadar pek çok veriyi değerlendirerek polisin önüne şüpheli isimler listesi koyuyor. Polis ise bu listedeki isimleri tek tek dolaşıyor. Ya gözaltına alıyor ya da takibi sürdürüyor. Çin’in pek çok bölgesinde daha bu tür akıllı zeka yazılımlarının kullanıldığına dair bilgiler var.

"Çin'de yapay zeka tahminiyle gözaltı"

Erkek seks robotları 2018’de piyasada

Bu seks robotu şakalara gülüyor, bulaşık yıkıyor

Bakan Arslan'ı kızdıran robot özür diledi

Robot Sophia röportaj verdi, dergiye kapak oldu

Türkiye dahil dünyanın pek çok ülkesinde havalimanlarında, gümrük kapılarında, metropollerin hemen her yerinde yüz tanıma sistemini kullanan akıllı yazılımlar devreye girmiş durumda. 

Nobel ödüllü fizikçi Stephen Hawking, büyük bir başarı olarak nitelediği yapay zekanın, kontrolden çıkması durumunda insanlığın son başarısı olabileceği uyarısını yapıyor. Yapay zeka alanında çalışmalar yapan üniversitelerden pek çok uzman, öğrenme yeteneği kazanan yapay zeka yazılımlarının kontrolden çıkması durumunda yakın ve orta vadede çok tehlikeli gelişmeler yaşanabileceğini söylüyor. Mesela, yapay zekanın gerçeğinden ayırt edilemeyecek sahte videolar ve haberlerle kitleleri manipüle edebileceği belirtiliyor. 

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

Teröre karşı terör

Eğer kontrolden çıkarsa onu durdurabilecek herhangi bir şey yok. Peki başka bir yapay zeka sistemiyle kontrolden çıkan yapay zekayı alt edebilir miyiz? Bu, yapay zeka ile mücadele edecek yeni yapay zekaya daha fazla kontrol, daha fazla güç sağlamak şeklinde devam eden bir döngü anlamına geliyor. Dolayısıyla kontrolden çıkan bir yapay zekaya karşı yapabileceğimiz pek bir şey yok. Bulut sistemleri gibi teknolojiler, internetin artık sadece kablo bağından ibaret olmadığı gerçeğini bize hatırlatıyor. 

Son dönem sinemasının çok kullandığı temalardan biri, yapay zeka ve kontrolden çıkma hali. Hatırlayalım, Arnold Schwarzeneger'in başrolünü oynadığı Terminatör serisi, Skynet adlı yapay zeka yazılımının bağımsızlığını ilan edip insanlığa savaş açmasını üzerine kuruluydu.

“Person of Interest” dizisi de bu bakımdan tam bize göre. Dizide, yazılımcısının artık onun kontrolüne girdiğini fark etmesiyle uzak durmaya karar verdiği bir yapay zeka yazılımının, başka bir yapay zeka sisteminin saldırısına uğraması ve “yeraltına” çekilip oradan mücadele etmesi anlatılıyor. Saldırgan ikinci yapay zeka suikastler düzenlenmesine, seçimlere müdahale etmeye, para transferlerine sızmaya karar verip kendine özel ordu oluşturmaya başlıyor...

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

Dikkat çekici... Diziler, filmler gelmekte olanı basbas bağırıyor sanki... 

3 robot yasası

Peki bu yapay zeka yazılımlarına insanlara zarar vermelerini önleyici kodlar eklenemez mi? Bu tür kodlar esasen “davranış modeli” içeriyor. Yani robota, yazılıma, “Şöyle bir durumda şöyle davran, böyle davran” demek anlamına geliyor.

Bu noktada, bilimkurgu edebiyatının babalarından Isaac Asimov'un “I, Robot” kitabında geçen 3 robot yasasını hatırlayalım. 

1 -Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.

2- Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.

3- Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir. 

Asimov bu 3 yasaya daha sonra bir “sıfırıncı” temel yasa daha ekler.

0- Bir robot insanlığa zarar veremez ya da zarar görmesine seyirci kalamaz.

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

Ve “sıfırıncı yasa nedeniyle birinci yasayı şu şekilde değiştirir,

1- Bir robot, sıfırıncı yasayla çelişmediği sürece bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.

Tabi işler bundan sonra epey karışıyor. Robot (veya yazılım, yapay zeka) diğer insanlara zarar verme tehlikesini görüp, bir insanın ölümüne karar verebilir mi? Eğer insanlığın zarar görmesine seyirci kalmayacaksa, insanların kendi elleriyle savaş çıkarmalarına, doğayı tahrip edip yaşanmaz hale getirmesine de sessiz kalacak mıdır? Peki insanlığın kendi kendini yok etmesine seyirci kalmayacaksa, genel olarak insanlığın çıkarına diye düşünüp, diyelim 5 milyon insanın ölümüne karar verebilir mi? Gördüğünüz gibi iş içinden çıkılmaz hale geldi bile.

Söz konusu olan silahsa hedef çoğu zaman insan

Kurguyu, filmi bir yana bırakalım, yapay zeka yazılımları şu anda silah endüstrisinde fiilen kullanılıyor. Pek çok silahlı insansız hava aracı, hedefi “otomatik” olarak saptayıp imha edebiliyor. Tabi söz konusu olan silahsa hedef çoğu zaman insan. Hatta iki Kore'nin sınırında Samsung firması tarafından geliştirilen bir roket sistemi “düşmanı” kendisi tanımlayıp “imha” etmek üzere kendi ateşleme sistemini çalıştırabiliyor.

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

Üsküdar-Ümraniye metro hattı da insansız araçlarla çalışıyor

Silah-savaş endüstrisi dışında, biliyorsunuz yeni açılan Üsküdar-Ümraniye metro hattı insansız araçlarla seferler yapıyor. Türkiye'de yerli savunma sanayiini geliştirme kapsamında İHA-SİHA'lar üretiliyor. Pek yakında İKA (insansız kara aracı) yapımına başlanacağı konuşuluyor. Günlük hayatta artık IP kameralar, akıllı ev aletler vs derken, gittikçe artan bir “ağ sağanağı” altında yaşamaya başladık. Kendi kendine öğrenme yeteneği kazanmış ve internet üzerinden sınırsız erişime kavuşmuş bir yapay zekanın bu araçları kontrol etmesi, kendi amaçları doğrultusunda kullanması mümkün. Yani “Oxford Üniversitesi yazılımcıları düşünsün, bize ne” diyebileceğimiz bir durumda değiliz.

Terminator'e karşı John Connor olmak

Peki böyle bir durum yaşanırsa, yani yapay zeka yazılımları kontrolden çıkar ve bize savaş ilan ederse? Muhtemelen “savaş ilan etmesi” için bizi tehdit olarak görmesi gerekecektir. Gerçekten açıkça savaş açılana ve John Connor bizi kurtarmaya gelene kadar ise böyle bir yazılım biz farkına bile varmadan kendi amaçları (veya tasarımcısının belirlediği hedefler) doğrultusunda insanları, toplulukları manipüle etmeyi sürdürecektir. Hayatımızın kontrolü şu anda bile bizde olmadığına göre, yapay zekanın dünyayı ele geçirmesine karşı da yapabileceğimiz pek fazla şey yok gibi görünüyor.