Asimov'un robot kuralları

[balper]

Diyelim ki Asimo kerdeşin kameralarından birini kırdık.
Neler olabilir?
1) başka bir kamerası varsa onunla idare eder, mesafe algılayamaz ve sakar bir robot olur
2) Başka kamerası yoksa ama kaynak kodunda "if kamera off then diğer sensörlerle hareket et" komutu varsa o zaman iyice sakar bir robotumuz olur.
3) Kaynak kodunda biraz önceki seçenek yoksa ve sadece kameralarından gelen bilgilerle hareket ediyorsa o zaman son derece pahalı bir korkuluğumuz olur.

Diyelim ki kırdık adamın kamerasını, insana özgü içgüdüleri olmadığı için bu durumu sadece sistemde bir hata olarak algılayacaktır ve işine gücüne bakacaktır. Yok eğer zarar gören her sensörünü bozan şeyi düşman ilan ederse ve kazara kaynak kodunda bir bug olursa o zaman kendine mi düşman olacak? (T-800 hesabı erimiş demire girer belki).

Robota "zarar" ve ölüm gibi soyut kavramları öğretemeyeceğin için asla "nefret", "sevgi" veya "açgözlülük" (dünya benim olsun niahahaha) gibi soyut düşünceleri olamayacaktır. Milyon dolarlık bir android olsa bile sonuçta basit bir Input / Output düzeneği ile çalışıyor, ne verirsen onu alırsın.

[mustafacan]

öğreniyor diyoz daha ne diyelim! başka diyeceğim yok!

[balper]

Öğreniyor tamam ama soyut şeyleri nasıl öğrenecek?
Bu konuda fikri olan var mı?
ilginç bir konu olabilir. İnternette 3 kuruşa satılan robocüklerden bir tane aldık diyelim buna kendine zararlı olan şeylerden uzak durmayı nasıl öğreteceğiz?
Sensörlerle yaparsak olur mu? ama bir yandan da olayın sürdürülebilirliği var yani kendine zarar vermeden öğrenecek. ısı, nem, rüzgar gibi konularda maksimum sınırlar belirlesek?
Alacağı darbeleri şiddetini nasıl algılatabiliriz? bir fikri olan var mı?

[mustafacan]

alacağı darbelerin şiddetini sanırum piyezo tarzı bişilerle olur. hani sitede bateri yapmışlarya

[balper]

Tamam, darbe işini de bir şekilde çözdük diyelim.
Robota kendini sakınmayı öğretmemiz olası gözüküyor.
Riski hesaplayıp ona göre hareket ettiğini de düşünelim.

Robocüğümüzü saldık doğaya. Suya girmedi, ateşe düşmedi, darbe alınca yön değiştirdi yani bir şekilde doğal ortamında hayatta kalabilecek düzeye getirdik.

Bu haliyle bu robotu mağara insanlarına benzetirsek ve insanlarınkine benzer bir gelişim izlemesini istersek ne olur?

Robota bundan sonra öğretmemiz gereken şey güvenlik. Kendini sağlama alabileceği bir yer yapması / bulması. Geceleri rahat uyumak için (şarj süresini gece olarak düşünelim). Gitti robocükümüz kendine bir ayakkabı kutusu buldu ve içine girdi. Bu robota "konforlu bir ortam oluştur" komutunu nasıl verebiliriz ki? Konforu tanımlarsak mesela robotumuzun işlemcisi -20 / +70 derece aralığında çalışabilse ve ideal çalışma sıcaklığı 21 derece olsa, konfor komutlarından birisi barınağın ısısını bu seviyede tutmak için bir yöntem geliştirmesi olur.

Bu durumda da görüldüğü üzere bu komut ve öğrenme süreci tamamen fonksyonel kriterlere göre oluşturulmuş ve somut bir noktaya dayanmış olacaktır. Robocüğe "oooh! iyi geldi, iliğim kemiğim ısındı" dedirtemezsiniz ki? o bunu yapar ama "yapması gerektiği için", rahata kavuşmak için değil.
Takıldığım nokta burasıydı, ilk seferde açıklayamadım, kusura bakma.

[mustafacan]

yada hareket sensorleri ile olabilir veya manyetik alan dedktörü olaiblir. olay şu ; düşünüyoooooor artık.
darbe aldım>>artık hissetmiyorum>>(Mantık oluştur)\x şiddetinde darbede hasar gördüm.(Çözüm oluştur)Bir daha hızlı çarpma sistemi onar vs.
yani programın işleyiş diagramı böle bişi;
       OLAY>>olaya numara ver 3 numaralı olay olarak kaydet
            SORUN>>soruna numara ver  2 numaralı sorun olarak kaydet
                  SONUÇ>> hasar oluştu xxxxxxx çalışmıyor
                         ÇÖZÜM ve TEDBİR ÖNLEM>>olaydan korun vs.
  DEVAM ET...

bu sadece işleyiş şemasının sorun oluşmasına karşılık düşünülmüş kontrol satırları işte.

[ground]

Konu çok güzel ilerliyor teşekkürler..

Bence genetik elektronik bu düşünme olayını robotlara kazandırabilir..

ilginç bir konu olabilir. İnternette 3 kuruşa satılan robocüklerden bir tane aldık diyelim buna kendine zararlı olan şeylerden uzak durmayı nasıl öğreteceğiz?
Sensörlerle yaparsak olur mu? ama bir yandan da olayın sürdürülebilirliği var yani kendine zarar vermeden öğrenecek. ısı, nem, rüzgar gibi konularda maksimum sınırlar belirlesek?

Neden tanımlamaları kendi bildiğimiz şekilde yapıyoruzki?

Dünya programlamada çok gelişmiş durumda bizim düşündüğümüz basit assemler , basic , c     algoritmaları ile düşünemeyiz..

Örneğin ben size şu ana kadar bulunmuş en son asal sayıdan bir sonraki ni bulun desem bulabilecekmisiniz?

Yöntemleri de belli , bulabilirsiniz peki?

Olay şu robotlara yada herhangi bir pc ye bu his yada düşünme kavramını yerleştirmek sadece yazdığın programla bitmez.. Yazdığınız programın kendini devamlı geliştiren bir yanı olması gerekir..

Şu kasparovu yenen pc yi düşünün.. Santrançta pc ye böyle bir zeka anlayışının verilemeyeceği düşünülüyordu..

İyi çalışmalar..

[balper]

Evet konu ilginç olmaya başladı, ilginize teşekkür ederim.

İş yine dönüp dolaşıp öğretileceklerin soyut - somut olmasına dayanıyor.
Satranç son derece somuttur, strateji oyunudur ve bir miktar da insan faktörü vardır - hatırlarsanız Kasparov Deep Blue isimli makineyi yenmiş, bir sonraki sürüm olan deeper blue'ya karşı kaybetmişti.

Ne olursa olsun, deeper blue'nun Kasparov'a karşı birşey hissetmesini sağlayabilir misiniz?

Mesela biz Kasparov'a çok zeki, süper satranççı olarak algılıyoruz - saygı duyuyoruz. Peki Deeper blue'nun bu şekilde sübjectif bir algılaması olabilir mi? olursa nasıl yapılabilir?

[ground]

Evet tabiki kolay değil..

Aslında satranç olayı insanla makine arasındaki farkı çok iyi ortaya koyuyor..

Nasılmı şöyle..

İnsan doğru hamleyle yanlış hamle arasındaki farkı kolayca görebiliyor..

Fakat makine ( deepblue) tüm hamleleri hesaplıyor.. Aynı kripto kırmada yada herhangi bir şifre kırmada ( rar zip şifreleri gibi) brute force tekniğiyle iş yapıyor..

Deepblue o zamanlarda dünyanın en hızlı pc lerinden biriydi.. Hıza ihtiyaç duymasının sebebi ise bruteforce ( kaba kuvvette deniyor) yani her ihtimali deneme sonuca ulaşmaşma süresini kısaltıyor..

En son asal sayıyı bulan pcde dünyanın en hızlı pclerindendi..  Onun yöntemide aynıydı..

Konuyu dağıtmak istemiyorum..

Bu his olayı gerçekten zor aslında..  Ama kendi kendini geliştiren makineler yapılması bence mümkün görünüyor.. Ki gödel amca  aşılabilirse  :lol:

[ground]

Robotlar ve yapayzeka hakkında birkaç yazı

Clarissa projesi
http://www.xerox.com.tr/xerox/haber_detay.asp?id=173

Robotlarda yapay deri..
http://www.ntvmsnbc.com/news/329062.asp

Türkiye'de yapay zeka portalı
http://www.yapay-zeka.org/

Zaman ve Bilinç
http://www.yapay-zeka.org/modules/icontent/index.php?page=54

[arslan74]

Merhaba,

Konu çok ilginçleşti, bu konularda bende birşeyler söylemek istyorum.

Öncelikle insan - robot kavramını kıyasliyoruz.

insan= canlı varlık, Hem beden, hem zeka ile gelişen, Sonra bu işlem ters yönde ilerleyerek yaşamı sonra eren varlık, olarak diyebiliriz. Bu tanımlamayı yaparken biraz bilimsel yönden yaklaştım, bahs etmedim birçok şeyler var. İnsan doğar doymaz bazı hazır bilgilere önceden sahib oluyor. Mesela korku, mutluluk, neşe, gülümseme, ağlama, Bebeğin annenin göğüşünden beslenmesi bilgisi. Bunlar önceden ona yüklenmiştir. Bu bilgileri sonradan öğrenilmez. İnançli bir insan bu bilgileri bize Allah içimice yükledi der, İnançsız olan da Tabiata işi yükler.

İş burda düğümleniyor. Bizim asla bir makinaya yükleyemeceğimiz hazır programlar bunlardır. Bir belgesel de doğuştan bir coçuk hem kör, hem de sağır idi. Bunun dışarı ile irtibatları tamamen kopuktu. Ama bu cocuk kendi Dünyasında "Gülüyorlar ve Ağlıyorlardı ve hatta kızabiliyorlardı". Demek ki bunlar önceden yüklü programlar ( progam dememin sebebi, konunun daha anlaşılması içindir).

Robot: Matematiksel ve formule edilebilen bir işlemi gercekleştiren makina olarak tanımlayabiliriz.

Yani şünü demeye çalışıyorum. Robot temeli yanlız bir formüle dayanan işlemleri yapabilir. Bunun haricinde sadece insana ait kesinlikle formülize edilemeyen özellikleri ASLA beceremez.

Neden beceremez, nedenini daha önce belirtiğim gibi, çünkü bu işlemi formule dökemez. Bir robot satrancta insanı cok rahat yenebilir. Cünkü santarj bir kural oyunudur ve kuralları cok acık ve nettir. Oysa insan, buna kendisi de dahil hayatının ve yaşamnın formülle ilgisi yok, Yaşam anlaşılmaz ve garib olaylarla doludur. Kimisi buna kader, kimisi tesadüf der. Ama asla inkar edemez. insan, kendi yaşam formülünü, niçin yaşadığını bilemez, işin en kötüsü bilmediğini de bilmeyenlerdir ki, bunlar için yaşamının bir anlamı yoktur, öylesine boş boş yaşarlar.

Şimdi gel gelelim robotlara, bunları yapan nihayetinde insan. Robotların yapılma gayesi var oda insanların kendi yapmakta olduğu işleri onlara yıkarak işleri kendi yaşamını rahatladırlar. Bu mantık bile bir robota öğretilemez. Robot; ya ben işi yaparken cok yoruluyorum. ben başka bir robot yapayımda benim yerime o iş yapsın. öyle bir matık robotta olmaz. Bilakiz kendisi bir cansız varlık, bir araç ve amaç insanların rahatları ve yaşamları kolaylaştırmak tır.

Isaac Asimov'un Robotlar için koyduğu kurallar ise. Bazı insanların diğer insanlara yaptığı yok etme, imha ve katliamların da Robotları bu işte alet edebilirmiyiz şeklide ki fikirden korunma şeklidir. Cünkü bir katliamı cok gelişmiş bir robota yaptırmak cok basit olur. Çünkü onda acıma iyi ve kötünün tanımı yok. Yaptığı işten viçdan duyma diye bir olayıda olmaz.

"Isaac" ismi Isak aleyhisselamdan geliyor. Isaac ismide Yahudiler kullanır. Yahudiler de katliam yapmak kendi ırkıdan olmayanı öldürme yetkisini kendi dinlerinde var. Konu biraz politikleşecek ama bazı şeyleri göz ardı etmemek gerek. Yahudiler sırf kendi irkından olmadığı için kişilere katliam ve işkençe yaparsa. İnsanları toplu şekilde öldürürse ve askerler cesetlerin yani başlarında şakabiliyorlarsa, Kundakta ki yeni doğmuş bebekleri hiç acımadan öldürebiliyorlarsa. Burda Isaac Asimov bu kuralları Robotlardan önce insanlara öğretmeli ve ezberletmelidir. Bunu sadece katliam yapan Yahudiler için söylemiyorum, hangi din, dil, ırk olursa olsun insanları öldürme ve yok etme yetkisine hiç bir kişi, toplum veya ırk sahib değildir. Her insanın yaşama hakkı insanın en doğal hakkı dır. Silahlı yada silahsız her türlü katliamların en büyük düşmanıyız.

Bilim adamı her zaman barışın yanında olmalıdır. Zamanımızda ise bilimle toplu imha silahları geliştirmek için çaba harçanıyor ve bunlara cok ciddi ödenek ayrılıyor.

Bizler Robotlar bizi yok edermi ütüyopyasından önce, Nasıl barış içinde yaşarız. Kimsenin kimseyi yok edib, öldürmeden nasıl yaşarıza meselesine Kafa yorub, çaba sarf etmeli.

İşin özü bu olmalı.

Yoksa "Isaac Asimov" Robotlar insanları ve insanlığı yok etmeyecek  kuralı cok farazidir. Nihayetinde bu yapan yine insan ve bir insan başka bir insanı yok etmek hedefinde ise bunu yok rahatlikla robota programlayarak yaptırabilir. Isaac Asimov burda eğer insanlara seslenmiş olsaydı ve onlara Yaptığınız Robotları insanlara zarar vermeyecek şeklide programlanmalı dese hiç bir sorun olmazdı. Ama bu orda saçmalamış Robot insanlığa zarar vememeli şeklide ki cümle çok şacma.
Şöyle ki; eğer Robotu biz programliyorsak o özelliği biz ona yüklemeliyiz yok eğer biz o robota hüküm edemiyorsak zaten bizim koyduğumuzun kuralın bir hükmü kalmaz. Cünkü kendi kuralını kendi koyuyor olacak. Bu durumda kendisi nasıl bir kural koyduğunuda koymadan önce asla bilemeyiz. Taki koyduyu kuralı uygulamaya geçtiği zaman belli olur.

Böyle bir makina şimdiye kadar hiç yapılmadı ve yapılamazda. Bu yüzden tartışmada "eğer yapılsaydı" dan ödeye gitmiyor.

Biz önce süper robot yapmadan önce süper bir insan olalım.

Gerisinin zaten hiç bir hükmü olmaz o zaman.

Hepisinize diğer insanlarla kaynaşmış, barış dolu yaşam diliyorum.
.

[balper]

Bu konuda haklısın ama ben burada zaten işin felsefi yönünü ele almayı amaçladığım için bütün tartışmaları "eğer"ler ve "ya"lar üzerine kurulu olması çok doğal.

Bir robota duyguları bir şekilde öğretebilir miyiz? ve konuyu somutlaştırmak için robocük örneğini verdim.
Yani internetten bir robocük alsak üzülmesini veya sevinmesini sağlayabilir miyiz?
İnsana önceden yüklenmiş olan (bu güzel bir tanımlama oldu) bizim robocüğe matematiksel olarak anlatılabilir mi?

Derim ki bu forum alanında Türküye'nin en büyük beyinlerini topluyor ve bu soruya bir yanıt bulursak gerçekten de Dünya için bir adım atmış olacağız.

[ground]

okuduğum bir yazıyı yorumsuz aktarmak istiyorum..

bilgisayarın insan beyninin gösterdiği tüm yeteneklerini gösterememesinin çok basit bir nedeni olduğu kanaatindeyim: insan, bilgisayarı, kendisi kainatı bilinci ile nasıl algılıyorsa o şekilde çalışacak şekilde üretmiştir. bilgisayar ile insanın denk olamaması insan bilincinin kendisine ait tüm gerçekliği kavrayamamasından kaynaklanır.

sezgi dediğimiz, bana göre sadece beynimizin bilinç dışı faaliyetlerinden ibaret olan yöntemleri, bir bilgisayara anlatabilecek kadar iyi kavrarsak, o gün, kendimiz kadar akıllı makineler yapabilmek için önümüzde tek engel bu makinelerin insan beyni ile kıyaslanabilir hızda çalıştırabilmemiz olur.

ve o gün insanlık için gerçekten de acı bir gün olur; işleyişini bilmediğimiz için özel sandığımız, ilahileştirdiğimiz, büyük ve üstün gördüğümüz kendimize ait son şey olan sezgimizi de çözdüğümüzde, artık maddeselliğimizi nasıl inkar edebiliriz bilemiyorum.

o gün, sanatın, bilimin, matematiğin birleştiği gün olur.

belki kıyamet de o gün kopar.

Not: Bu yazı internetten alınmıştır..

[ground]

Bu his olayı gerçekten zor aslında..  Ama kendi kendini geliştiren makineler yapılması bence mümkün görünüyor.. Ki gödel amca  aşılabilirse  :lol:

Demişim üst yazılarımda..  Gelelim gödel amcanın şu eksiklik teoremine..

‘Bu önerme ispatlanamaz' ifadesini (G) aritmetik sisteminde formülize etti. Aynı şekilde G ifadenin değilini (‘bu önerme ispatlanabilir') de formülize etti. Daha sonra, G ifadesinin aritmetik olarak doğruluğu hesaplanabilirse, G ifadesinin değilinin de doğruluğunun hesaplanabileceğini gösterdi. Ve Gödel buradan şu iki sonuca varmıştır:

Elementer aritmetik içeren aksiyomatik bir sistem tutarlı (consistent) ise eksiksiz (complete) değildir.
Elementer aritmetik içeren aksiyomatik bir sistemin tutarlılığını sistemin kendi içinden (sistemin kendi formüllerini ve işlemlerini kullanarak) ispatlamak mümkün değildir.
İşin ilginç tarafı, bu G ifadesi sistemin içine bir aksiyom olarak yerleştirilse bile, yeni bir Gödel cümlesi çıkartılabilir. Yani ne kadar aksiyom eklersek ekleyelim, böyle bir sistemde doğruluğu ya da yanlışlığı ispatlanamayacak bir Gödel cümlesi bulunacaktır.

Teorinin Yapay Zeka Açısından Önemi
Gödel Teoremi incelendiğinde, yapay zeka konusunda çok önemli sonuçları olduğu görülür. Gödel Teoremini ortaya sürdükten bir süre sonra, meşhur İngiliz Matematikçi Alan Turing, sonsuza kadar hatasız hesap yapabilen ve sınırsız depolama kapasitesine sahip olan soyut bir makine; ‘Turing Makinesi'ni tanımlar. Bu makine her türlü algoritmik problemi hesaplayabilir. Turing'in ortaya koyduğu teoreme göre tüm bilgisayarlar Turing dengidir. Daha sonra Turing bazı problemlerin algoritmik bir çözümü olmadığını farkeder. Böylece ‘durma problemi' (halting problem) - Turing Makinesinin bir problemin çözümünün olduğuna ya da olmadığına karar verememesi sorunu - patlak verir. Bunun başlıca sebebi de Gödel'in Eksik Olma (Incompleteness) Teoremi'dir. Oysa insanda böyle bir problem yoktur.

Kısaca amcam şöle demiş..
"Bir seviyeden daha karmaşık olan her tutarlı formel sistem için ispatlanamayan ama doğru olan bir takım önermeler vardır."

Yani..
Öyle doğrular vardır ki bilgisayarlarımız hiçbir şekilde bunların doğru olduğunu anlayamaz.

[Erol YILMAZ]

Dusunceli bir robot yapilabilirse bu kesinlikle erkek bir robot olacaktir.

Cunku bir algoritmanin kurulabilmesi icin oncelikle anlasilabilir birsey olmasi lazim