yapay zeka  Yapay zeka  alanındaki ilerlemeler, insanların artık anlayamayacağı bir dünyaya yol açabilir. Makineler birbirleriyle i...

Yapay Zekanın Tehlikelerine Karşı Uyarılar

Temmuz 13, 2018 Mustafa TÜRKÖZ 9 Yorum

Yapay Zeka
yapay zeka

 Yapay zeka  alanındaki ilerlemeler, insanların artık anlayamayacağı bir dünyaya yol açabilir.


Makineler birbirleriyle iletişim kurmayı öğrenirse neler olur? Ya kendi hedeflerini oluşturmaya başlarlarsa? Ya da insan aklının ötesinde kararlar verecek kadar akıllı hale gelirlerse? Şimdiden tüm bunlara hazırlanmalıyız.

Günümüzde Go gibi karmaşık oyunlarda ustalaşan bilgisayar programları profesyonel oyuncuları yenebiliyor. Bu programlar, defalarca oyunlar oynayarak kendilerini eğitmeyi öğreniyor.

Gerçek şu ki, yapay zeka insanlardan daha hızlı öğreniyor. Satranç tarihinde daha önce hiç görülmemiş bir tarzda satranç oynamayı öğrenen AlphaZero, oyunun temel kurallarını öğrendikten sonra 1.500 yıllık beceri seviyesine ulaştı. Go oyununda bilgisayar ise, insanların henüz düşünmediği, stratejik olarak görülmemiş hareketler yapabildi. Tüm bunlar insan beyninin kapasitesinin ötesinde şeyler..

Tehlikeler

Bu son derece hızlı öğrenme süreci, yapay zekanın insanlara göre daha hızlı ve daha büyük hatalar yapabileceği anlamına gelir. Eski ABD Dışişleri Bakanı olan Henry Kissinger, “yapay zekanın eylemlerinden kim sorumlu olacak”, “onların hataları için sorumluluk nasıl belirlenecek”, “insanlar tarafından tasarlanan bir hukuk sistemi onları akılda tutabilen bir yapay zeka tarafından yönetilen dünyaya ayak uydurabilir mi”, sorularını yöneltiyor.

Geçen sene katıldığım yapay zeka yaz okulunda Cavit Yantaç'ın arabasıyla bir köpeğe çarpma olayını dinledik ve kendisinin yerinde bir yapay zeka olsaydı sonuç nasıl değişirdi, bu konu üzerine tartıştık. Belki arabamız akıllı olsaydı, biz daha köpeği farketmeden duracaktı. Peki öyle bir durum olsun ki, araba iki kişiden birine çarpmak zorunda kalsın!

Kararsızlık

Araba kullanmak, tahmin edilemeyen koşullarda kararlar gerektirir. Sürücüsüz bir araba örneğinde;
Eğer araba yolda yaşlı bir teyze ve çocuktan birini öldürmek zorunda kalsaydı ne olurdu? 
Yapay zeka teyzeyi mi yoksa çocuğu mu seçerdi? Sizce hangisini, niçin seçerdi?

Yapay zekaya etik ve mantıklı kararlar nasıl öğretilir? Etik ve mantıklı olan nedir? İnsanlar bunları tanımlama konusunda hala mücadele ediyor.

Hükümetler de, yapay zekanın nasıl kullanılabileceği ile ilgili çalışmalar yapmalıdır, ki bazı ülkelerin yapay zeka bakanlıkları var. 2017 yılında Omar Bin Sultan Al Olama, Birleşik Arap Emirlikleri'nde “yapay zekadan sorumlu” ilk bakan olarak atandı.

Kissinger, gelecek için ulusal bir vizyon oluşturulmasına yardımcı olmak için, alanında seçkin düşünürlerden oluşan başkanlık komisyonunun kurulması gerektiğini savunuyor. Ona göre eğer bu girişimi başlatmazsak her şey için çok geç olabilir.

Yapay Zeka Yaz Okulu 1. Günde Neler Yaptık?
Yapay Zeka Yaz Okulu 2. Günde Neler Yaptık?

Yapay Zekanın Hayatımızdaki Yeri
Yapay Zeka Dost Mu Olacak, Düşman Mı?
Yapay Zekanın Tehlikelerine Karşı Uyarılar


Yayın Tarihi: 13.07.2018  
MUSTAFA TÜRKÖZ

9 yorum:

  1. Kontrol edilemezse, yapay zeka önümüzde ki en büyük tehlike olabilir. Frankenstein, yeni bir yüzle dönebilir....

    YanıtlaSil
    Yanıtlar
    1. Yapay zeka her alana girdiği için büyük bir tehlike. Geri dönmemesini umuyoruz inşallah :D

      Sil
  2. somut ve nesnel kavramları yapay zekaya öğretebilirsiniz.

    Peki ya?, terbiye namus ahlak, vicdan gibi soyut kavramları??? Ne kadar insan kapasitesinin ötesinde düşünebilirse düşünsün yinede Mustafa bey, sizinde dediğiniz gibi insanlar için oluşturulan bir hukuk sisteminde "vicdan kavramı" olmayan yapay zeka büyük risk.

    YanıtlaSil
    Yanıtlar
    1. Vicdan kavramının öğretilmesinin imkansız olduğuna inanıyorum. Çünkü benim birine vicdanen acıyabilmem için öncelikle yoksulluk, acı, dert gibi bazı kavramları yaşayabilmem gerekir ya da empati kurabilecek düzeyde olmam gerekir. Terbiye, namus, ahlak ve vicdan soyut kavramlar olmakla birlikte göreceli kavramlar da. Bu yüzden bu kavramları yapay zekaya tanımlayabiliyor olsak bile, terbiye kavramı kime göre terbiye sorusunu ortaya çıkarır.

      Sevgi, üzüntü, aşk gibi kavramların matematiğe tam anlamıyla dökülebilmesi mümkün olduğu zaman ise insan nedir sorusu doğar. Çünkü görünürde robotlarla insanlar çok benzer olacaklar. Kendi kendimize sorarız insan olarak benim farkım ne şimdi diye?

      Sil
  3. Yapay zekanın tehlikeli olacağını düşünmüyorum. Bence asıl tehlike yapay zekayı kodlayan veya yöneten kişiler olduğunu düşünüyorum. Her teknoloji ne amaçla üretilirse ona hizmet eder.

    YanıtlaSil
    Yanıtlar
    1. Ben yorumunuza katılmıyorum maalesef :) Bence asıl tehlike bizleriz. Çünkü aslında yapay zekayı biçimlendiren yazılımcı değil bizlerin oluşturduğu büyük verilerdir. Tay adlı chatbot örneğinde; bu yapay zeka 19 yaşlarında bir kızın dil kalıplarında dostça konuşması için eğitildi, fakat twitter'da insanların bu chatbotu trollemesiyle Tay, ırkçı, tahrik edici ve Hitler'i savunan bir hale geldi ve kaldırıldı. Yani beklentilerin dışında bir eylem gösterdi.

      Yapay zeka kendi algoritmasını oluşturabilen, kendi kendini programlayıp geliştirebilen bir program olduğu için neler yapabileceğini kestiremeyiz.

      Sil
    2. Yavuz Bey e katılıyorum.

      Sil
  4. Yapay zeka tehlike mi değil mi? Hala bunda uzlaşmış değiliz.

    YanıtlaSil
    Yanıtlar
    1. Uzlaşılabilecek bir konu değil sanırım :D Herkes farklı yorumlayabiliyor. Hayatımıza yeni yeni giren bir teknoloji ve zamanla popüleritesi arttıkça kullanıcı deneyimleri sonuçları ortaya çıkaracaktır. Ama bence olumlu yanları da çok olsada, beklenen kararların dışına çıkabiliyor oluşu büyük bir tehlike. Önlemler alarak kullanabilirsek ne mutlu :)

      Sil

Uyuyan bir adama sadece rüyalar gelir.