Süper Zeki Makineleri Kontrol Edemeyeceğiz

Süper Zeki Makineleri Kontrol Edemeyeceğiz

Senfoniler yazabilen, otomobilleri kontrol edebilen ve profesyonelleri satrançta yenebilen yapay zeka bütün dünyayı büyülerken bu alanda her geçen gün daha da ileri gidiliyor. Ancak bazı bilim insanları, insanlığın gelecekte süper zeki YZ kontrol edemeyeceği konusunda uyardı...

12 Ocak 2021 - 15:24 - Güncelleme: 13 Ocak 2021 - 10:17

İnsanlardan daha üstün zekaya ve kendi kendine öğrenme kabiliyetine sahip YZ, internet aracılığıyla insanlığın bütün verilerine erişebilir. Mevcut programların yerini alabileceği gibi internete bağlı bütün makineleri de kontrol edebilir.  Max Planck Enstitüsü İnsan ve Makine Merkezi’nden Manuel Cebrian bu konuda şöyle konuştu:

“Dünyayı kontrol eden süper zeki makine kulağa bilim kurgu gibi geliyor. Fakat bazı önemli görevleri, programcılar nasıl öğrendiğini tam anlamadan bağımsız şekilde yerine getiren makineler halihazırda mevcut. Bu yüzden ortaya, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli hale gelip gelmeyeceği sorusu çıkıyor.”


 Bilim insanları, YZ’nin nasıl kontrol edilebileceğine dair iki farklı fikirden bahsetse de bunların olumsuz yönleri de var. İlk fikir, YZ’nin kabiliyetlerini sınırlamak. Örneğin internet ve diğer tüm cihazlarla bağlantısını kesip dış dünyayla temas kurması engellenebilir. Ancak bu durum, YZ’nin becerilerini kısıtlayıp verilen görevlerdeki başarı yüzdesini düşürüyor. İkinci fikir, YZ’yi en baştan itibaren etik ilkeler gibi maddelerle programlayarak sadece insanlığın çıkarına en uygun hedeflerle güdülenmesi. Fakat uzmanlar, YZ’yi kontrol etmeye yönelik bu gibi tarihsel ve çağdaş fikirlerin kendi sınırları olduğunu ifade etti.


KORUMA SORUNU HESAPLANAMIYOR

Bilim insanları araştırma için, süper zeki YZ’yi taklit ederek ve zarar verdiği düşünüldüğünde onu durdurarak insanlara hiçbir koşulda zarar vermemesini sağlayan teorik koruma algoritması tasarladı. Dikkatlice yapılan analiz sonucunda, mevcut hesaplama paradigmasında bahsi geçen algoritmanın tasarlanamayacağı açıklandı.

İnsanlar ve Makineler Merkezi Direktörü Iyad Rahwan, sorunun teorik bilgisayar biliminden temel kurallara indirgenmesi durumunda, YZ’nin insanlığa zarar vermemesini sağlayacak algoritmanın kazara kendi işlemlerini durdurduğunu söyledi. Bu durumda, söz konusu algoritmanın tehdidi analiz edip etmediğinin veya YZ tehdidi yüzünden durup durmadığının bilinemeyeceğini ekledi ve sözlerine şöyle devam etti:“Aslında bu, koruma algoritmasını kullanılamaz hale getiriyor.”

Araştırmanın sonucuna göre, koruma sorunu hesaplanamıyor. Yani tek bir algoritma, YZ’nin dünyaya zarar verip vermeyeceğini belirlemek için çözüm bulamıyor. Ayrıca bilim insanları, bir makinenin insanlardan daha üstün zekalı olup olmadığına karar vermenin koruma problemiyle aynı alanda bulunduğu için süper zeki makinelerin ne zaman ortaya çıkacağının bile bilinemeyeceğini söyledi.

Kaynak: kıbrıs postası

YORUMLAR

  • 0 Yorum
Henüz Yorum Eklenmemiştir.İlk yorum yapan siz olun..
İLGİNİZİ ÇEKEBİLİR x
Deprem uzmanından korkutan İzmir uyarısı!
Deprem uzmanından korkutan İzmir uyarısı!
Soyer: “İzmir Türkiye’ye örnek bir tesis kazanacak”
Soyer: “İzmir Türkiye’ye örnek bir tesis kazanacak”