3 Robot Yasası Gerçek Oluyor

1

Amerikan Ordusu gelecekteki olası bir robot isyanını önlemek için şimdiden harekete geçti.

Pek çok bilim insanına göre, yapay zeka ve yapay yaşam üretmeye çalışarak aslında kendi sonumuzu hazırlıyoruz. Bu yapay yaşam formları her koşulda insan varoluşuna çok yabancı dimağlar olacaktır ve er ya da geç bizden kurtulmanın iyi bir fikir olacağına hükmedeceklerdir. Sonuçta biz insanlar bile kendi türümüze karşı gayet merhametsiz davranmıyor muyuz?

Üç Robot Yasası

Üç Robot Yasası

İşte yapay zeka ve robotik konularına en çok yatırım yapan ülkelerden biri olan Amerika Birleşik Devletleri Savunma Bakanlığı bu konuya henüz robotlar o seviyeye gelmeden bir çözüm üretebilmek için harekete geçti. Savunma Bakanlığı tarafından ülkenin en ünlü üniversitelerinden çağrılan yazılım ve donanım uzmanlarının yanı sıra, felsefe profesörleri de bir ekipte toplandılar. Bu ekibin çok zorlu bir görevi var; insanı insan yapan düşünce mekanizmalarını tanımlamak ve buradan yola çıkarak gelecekteki otonom robotlar için bir “ahlak” oluşturmak.

Her ne kadar şimdilik robotlar ve yapay zekaları o kadar ileri bir otonomiye ulaşmış olmasalar bile, o nokta çok uzakta değil. Hem askeri, hem de sivil alanlarda kullanılacak robotların insanlarla bir arada çalışabilmeleri için ise, öncelikle insana yakın bir düşünce yapısına ihtiyaçları olacak. Bu “insan ahlakı” yazılımı robotların her koşulda seçimler yapabilmeleri ve donup kalmadan çalışabilmeleri için şart. Mesela savaş alanında ilerleyen bir robot karşılaştığı yaralı askeri kurtarmaya mı öncelik verecek, yoksa ana görevi olan cephaneyi cepheye ulaştırma işine mi odaklanacak? Karşısına çıkan canlıların dost ya da düşman, asker ya da sivil olup olmadığına, onlarla çatışmaya girip girmemesi gerektiğine nasıl karar verecek? Çatışma esnasında karşı taraftan her gördüğünü vuracak mı? Bir çocuk askere denk gelirse nasıl tepki verecek? Bu ve benzeri sayısız sorunun cevabını verebilmek ve sağlam kalabilmek için, bir robotun çok ciddi bir “ahlak modülü” barındırması gerekecektir.

Tabii uç noktada amaçlanan şey, robotların verilen işleri yapabilmesidir. Savaş alanında ahlaki krize girecek ve donup kalacak makineler yapmanın da pek bir anlamı olmayacaktır. Bu yüzden de Asimov’un ünlü Robot Kanunları’ndan “insana zarar vermemek” şüphesiz DARPA’nın ahlak modülünde kendine tamamen yer bulamayacaktır, çünkü sonuçta bu makineler başka işler için olduğu kadar savaşlar için de kullanılacaklar. Bazılarına göre “insana zarar vermemek” kanunu bu denklemden çıkarsa, makinelerin er ya da geç “güzel ahlak” yazılımında bir delik bulup hedef gözetmeden insanları katletmesi kaçınılmaz olacaktır. Sonuçta insanlar da aynı şeyi yapmıyor mu?

Berker Güngör Tarafından yazılan bu yazı ilk olarak Technopat'ta yayınlanmıştır.
Sitemizde yayınlanmasına izin veren Technopat Yönetimi'ne teşekkür ederiz.

 

uc-robot-yasasi

3 Robot Yasası nedir?

Isaac Asimov’un “Ben Robot” isimli kitabında ve devamı niteliğindeki öykülerinde bahsettiği, yarattığı kurallar bütünüdür. Asimov’un kitaplarında robotların pozitronik beyinlerine kazındığı söylenen bu temel kuralları Asimov, kitaplarında, bu kuralların aşılmasının, robotun fiziksel olarak zarar görmesi veya etkisiz kalması (kilitlenmesi) ile sonuçlanacağını ifade eder. Yani robot kendine zarar vermeden bu kuralları aşamaz.

  1. Bir robot hiçbir şekilde insanoğluna zarar veremez; veyâ pasif kalmak suretiyle zarar görmesine izin veremez.
  2. Bir robot kendisine insanlar tarafından verilen komutlara 1. kuralla çelişmediği sürece itaat etmek zorundadır.
  3. Bir robot 1. ve 2. kurallarla çelişmediği sürece kendi varlığını korumak zorundadır.

Bunlar haricinde; Asimov’un daha sonraki kitaplarında eklediği sıfırıncı kural vardır ki; bu kural sayesinde, sadece insana değil, insanlığa hizmet edilebilecek robotlar yaratılması sağlanacaktır. (Kaynak: Uludağ Sözlük)

Paylaş

1 Yorum

  1. avatar

    ahlaki ikilemler insanları hala zorlarken robotlarda ahlak oluşturabilmek “hiç bir insana zarar veremez” ilkesi olmadan mümkün değildir. Bu ilke atlandığında robotlar, sadece insan ahlaksızlığına hizmet eden teknolojik cihazlar olurlar.

Yorum yapın