Asimov'un robot kuralları

[balper]

Asimov ve robot kuralları konusunda yarı felsefi- yarı teknik ama tamamen ciddi bir tartışma ortamı ile ilgilenen olursa diye kuralları kısaca yazıyorum:

1) Bir robot bir insana zarar veremez veya eylemsizlikle bir
insanın zarar görmesine neden olamaz.

2) Bir robot, birinci kurala aykırı olmadığı sürece insanlardan
gelen komutlara uyar.

3) İlk ve ikinci kurala aykırı olmadığı sürece bir robot kendi
varlığını korur.

Bu kuralları ortaya attıktan sonra Asimov bunlarda önemli bir açık
olduğunu fark eder ve "Zeroth Law" (sıfırıncı kural) olarak bilinen
kuralı 1940'ta ekler:

0) Bir robot insanlığa zarar veremez veya eylemsizlikle insanlığın
zarar görmesine neden olamaz.

Bu değişikliğin üzerine Asimov robotlar için ortaya attığı birinci
kuralı da değiştirmiştir. Yeni birinci kural şöyle bilinir:

1) Sıfırıncı kurala aykırı olmadığı sürece bir robot bir insana
zarar veremez veya eylemsizlikle bir insanın zarar görmesine
neden olamaz.

[ground]

Herşey iyi güzel yapılmış..

İleride bu robot kardeşlerde yapayda olsa bi zeka verirlerse ne olur acaba?..
Malumunuz genetik elektronik çağındayız..

YA insanlar gibi kendi menfaatlerini düşünürlerse..  :idea:
YA bu belirtilen kuralları hiç sayarlarsa..?  :idea:
YA İleride herşeyin birbirine bağlanacağı ( internet diyeceksiniz zaten bağlanmaya başladık) bu sistemi ele geçirirlerse..  :idea:

Şu çekik gözlü robotumuz ileride dünyayı elegeçirmesin?  :roll:  

Şu teknolojiyi ne kadar seviyorsamda o kadar da çekiniyorum şu illetten.. :lol:

Çok film izliyon demeyinde (matrix)  

[balper]

Bu da iyi oldu yaw şimdi... değil mi?
Asimov nedir?
kimdir?
kurallar nedir?
niye kural koymuşlar?
"araştırmadan saliim birşeyler ekiekieki" gibi bir cevap geleceğine dair bir arkadaşla iddiaya girmiştik cevabın bana 5 YTL kazandırdı.
Harcarken seni düşüneceğim.
8O

[ground]

Asimov un kim olduğunu bilmek için bir tık yeterli..

Koyduğun yazı robotlar ve kurallar hakkında..

Düşündüğümüzde eğer robotlar bu kurallara karşı çıkarsa..

Güle güle harca da paranı.. !!!!!
Ne istiyorsun? Neden bahsediyorsun? Neyi araştıralım bu yazında..?

[balper]

Birşey araştırmayalım sadece düşünelim, tartışalım, olayın felsefesini anlayalım, holywood filmlerindeki hataları bulalım eğlenelim ama aynı zamanda da Türkiye'nin geleceğinde eninde sonunda yer alacak teknolojinin (muhtemelen bir yerden çalarız ve burada ucuza üretiriz) felsefi temellerini açalım, prensiplerini benimseyelim.

Konu buydu, yoksa robotlar şunu yaparsa "fısladık" veya "capon yapıyo abi" tarzı birşey değil.

Bu arada robotların buna karşı çıkma olasılıkları üzerinde düşünürsek;
Robotlar buna karşı çıkamaz... sen programı öyle yapmışsın, robot bir başka robot tarafından tekrar programlanılsa bile x-y-z nedenlerden (merak edene açıklayabilirim) bu kuralları by-pass etmeleri olası değil. Yani bu bir holywood efsanesi...

Tartışılması gereken şey kuralların by-pass edilip edilemeyeceğinden çok, bu kurallar 21. YY robotlarına uygun mudur? robotlara basit kurallarla yasaklar koymak yerine olaya daha farklı yaklaşılamaz mı? vs...

[ground]

Asimov nedir?
nufus artışı ve kuresel ısınma gibi problemleri tahmin etmiş bir bilim adamı. Bilim kurgu yazarıdır..

kimdir?
Isaac Asimov (2 Ocak 1920 - 6 Nisan 1992) Rus asıllı Amerikalı yazar ve biyokimyacı. Pek çok konuda yapıtları olmasına karşın, bilim kurgu eserleri ve popüler bilim kitapları ile tanınmıştır. Kurgu olmayan çok sayıda eserinin yanısıra Fantazi dalında da yazmıştır. Dewey Ondalık Sınıflandırma sistemindeki Felsefe hariç tüm ana dallarda eserleri vardır. Asimov ortak görüşle bilim kurgu dalının ustasıdır, Robert A. Heinlein ve Arthur C. Clarke ile birlikte yaşadığı dönemde "Üç Büyük" bilim kurgu yazarından biri olarak kabul edilmiştir.

kurallar nedir?
Sizin de yazdığınız 3 robot yasası
Bu ingilizcesi
1 . a robot must not injure a human being, or through inaction allow a human being to come to harm .
2 . a robot must obey the orders given by human beings unless they conflict with the first law .
3 . a robot must protect itself as long as such protection does not conflict with the first or second law .

Buda türkçesi...
1) bir robot bir insana zarar veremez ya da bir insanin zarar gormesine seyirci kalamaz
2) bir robot 1. kuralla çelişmedigi surece bir insanin emirlerine uymak zorundadir.
3) bir robot 1. ve 2. kuralla çelişmedigi surece kendinin zarar gormesine izin veremez.


niye kural koymuşlar?
asimov' un "ya robotlar hepimizi yok ederse" paranoyasına karşı geliştirdiği
sonra da hikayelerinde bu kuralların nasıl aşılabileceğini anlattığı yasalardır..


VE bu adamın yazdığı yazıda şuda vardır..

pozitronik beyinin kurgusu nedeniyle degistirilemeyen bu yasalara ragmen hala bir robotun insana zarar vermesini amacliyorsaniz robotun icindeki insan kavramini  tanimini degistirmelisiniz.

EVET YAZDIĞIM YAZI
robotun icindeki insan kavramı tanımını degistirmekle alakalıdır...


İyi çalışmalar

[balper]

Asimov'un kuralları hakkında yazdığım bir yazı. ingilizce. ilgilenen olursa ve dil sorunu yaşarsa Türkçeleştirebilirim.

Working towards a full cooperation and harmony between men and machines (robots, AI, cyborg, whatever you feel right to call them) is a strange process as far as mutual harmony is concerned.
It's like doing business with a foreign country. A different culture, a different mentality, different thoughts, etc... AI can be considered within that perspective because WE will create a different culture.

We can approach this idea from two point-of-views, we can create AI by:
  a) teaching them things they should do
  b) teaching them things they shouldn't do

Asimov's laws fit into the second category approach. Robots were designed with endless AI capabilities and only main restrictions were maintained. This approach fits in many ways into our modern society as the main idea behind this was to give robots a slight sense of ethics and religion. Asimov tried to keep robots from making any immoral decision, the same way religion acts on our society: "don't do it you'll burn in hell". If we consider this statement (this usually is the reason why we don't like to kill people) we can see that there are two parts. The objective part expressed by the "don't do it" statement and the subjective part "hell". You can't expect a machine even with AI capability to understand the Afterlife and God, but you can clearly define something as "don't". Asimov chose the easy way for his robots; he let them free within a certain range (everything is free except these laws approach).

Today as AI is at the gates of the ordinary citizen we should consider handling this problem from the other, and more difficult, approach.

Let's go over a fairly easy example, we have produced our süper AI provided humanoid robot and we will teach her writing. We will consider that basic abilities such as walking, sitting, handling a pen, etc… are already programmed in our robot (let's name her). Jennifer will first have to learn the letters, numbers, punctuation marks and the way to draw them. We might be faced with a first problem as we would have to explain her that numbers are subjective representation of quantities but this is not related to our present topic. After having thought her in detail the use of the pen, the paper, the table and the chair we would have to teach her what she has to do. The reports, books, poems, stories we would like her to write would have to be thought. Let's go over the example of a poem. If we want Jennifer to become a poet we will have to teach her every single poetic style, every small detail about rhymes, etc… to create a decent database she can build her works on.

When all this teaching and learning process is finally over, we would top it with a final command saying that she should always write better poems. If we leave Jennifer in a room with only a chair, a table, infinite supply of pen and paper and of course infinite supply to keep her "alive", chances are we would find Jennifer at the same table writing poems even after a few decades. Poems will be Jennifer's live and her only goal would be to write better ones. If a human subject was to be placed in the same room within the same period of time do you really think she'd try to harm him? We wouldn't need to put up the following rules in Jennifer's software:
1)   Don't stick your pen in the human's eyeball
2)   Don't cut the human's throat open with the edge of the paper
3)   Don't break your chair on the human's head
4)   Don't crush the human between the table and the wall
5)   Write better poems
As you see from our example, only the fifth law would be enough to reach a perfect harmony between Jennifer and the human.

Let's keep the same scenario and imagine the human commands Jennifer the killing of another human. Jennifer wouldn't execute this order as she was programmed only to write poems.

If we elaborate the case, let's say Jennifer's primary task is writing poems but she also has to obey orders given by the human. In that case it looks like Jennifer would execute the order and get back to her writing.
To avoid this Asimov, in his perspective, just forbid killing humans. The difficult approach would to teach Jennifer that killing is bad. This is where ethical and moral teaching comes into practice.
Someone would have to give Jennifer a crash course in morale and ethics, but how?
If we stick to our example where human 1 wants Jennifer to kill human 2 and that we somehow how to "teach" Jennifer that killing is bad we should start from the very beginning. Negative things as killing and destroying are easily identifiable. You can relate them to a creative process and once you give Jennifer the creative impulse you needn't fear that she'd kill human 2.
Jennifer needs a first command, an inner command carved in her hardware that would give her a creative instinct. If our lady is meant to create and her primary task is creating poems then has a secondary task to assist human 1 then we would have set aside the problem of Asimov's laws within this example. Our commands (not laws, not prohibitions but simple commands) would fit in the following outline:
0)   Always create
1)   Write poems
2)   Write better poems
3)   Assist human 1 and goto 1 (as in basic)
Within this model we can also model the following scenario:
Jennifer is a süper-robot that makes robots. Our worst fear would be that she creates herself an army of droids to conquer the plant. This is why Asimov came up with the laws in the first place isn't it? Jennifer's new code would be like the following:
0)   Always create
1)   Create robots
2)   Create better robots
3)   Assist human 1 and goto 1 (as in basic)
Even if Jennifer starts creating an army of robots she would pass her creative instinct to them. Besides as she would only analyze robots from a technical point she would never aim for world supremacy but would instinctively try to improve her "products" technically.

We have to face the fact that Asimov's laws are from another age, an age were prohibiting was fairly easy and world supremacy was still at stake. Today, we can see that these concepts do not exist in the global world and the new "method" is teaching the bad instead of just prohibiting. Our approach to robots should evolve accordingly and we should start to deal with the process instead of just limiting robots to slave.

[balper]

Robot'un içindeki insan kavramını değiştirirsen... fena fikir değil ancak bir sorun var sanki:
insan tanımını yaparken öncelikle onun canlı olduğunu, sonra suda yaşamadığını (atıyorum), vs... tanımlaman gerekir. Yani memelilerin en genel özelliklerinden başlayıp insana doğru giderek insanı tanımlayabilirsin. İnsan tanımını yeniden yaparken insanı diğer memelilerden ayıran özellikleri tutarsan robot onu insan olarak algılamaya devem edecektir. İnsanı diğer memelilerden ayıran özelliklerden arındırıp tekrar tanımlarsan bu sefer robot karşılaştığı her canlı türüne saldıracaktır (bunu istemeyiz çünkü amacımız sadece insanları yok etmek).

[ground]

Dostum dünya bir tepsinin üzerinde diyenlerden değilim..

Her ne kadar zaman makinesi başlığında bu zaman makinesi işinin olmayacağını söylesemde.. İnsanoğlunun elindeki teknolojilere bakarak söyledim. Bilmediğim bilinmeyen birçok şey var.(Boyut kavramları)

Bu konuda da

İşin içine biraz kurgu katmak lazımdır.. Her işimizde bu olmalı..

Yazdığım yazıyı saçma sallamasyon olduğunu düşündün.. Fakat bu düşündüğüm şey o kuralları koyan adamın düşündüğü kurguyla aynı..

Pozitron beyin demiş adam..

Pozitron : radyoaktif bir elementin çekirdeğindeki bir protonun bir nötrona dönüşmesi ile açığa çıkan pozitif yüklü elektron.

Pozitron beyin ise: isaac asimov'un öykülerindeki robotların beyni. insanlar tarafından kabul edilen bir bilinç düzeyidir. asimov öykülerini yazadığı zamanlarda pozitron kavramı yeni yeni ortaya çıkmıştı ve bir elektronla pozitronun karşılaşması durumunda birbirlerini yok edecekleri biliniyordu. asimov da ancak böyle bir metaforun, uyumun ve yok edişin zeka esintilerini oluşturabileceğini düşünmüş ve böyle bir beyin kurgulamış.


Benim düşünce sadece kurgu idi. Bir filmden yola çıksamda.  Ama imkansız değil..

Çünkü baştada yazdığım gibi : Dostum dünya bir tepsinin üzerinde diyenlerden değilim.. !

[balper]

Yazını saçma bulduğumu söylemedim, söylemediğim gibi düşünmedim de! sadece olaylara farklı açılardan bakıyoruz.
Sen Asimov üzerinden gidiyorsun, ben kuralları.

Asimov'un zamanındaki teknoloji ile şimdiki bir değil, haklısın, bu bağlamda tartışmayı güncel olarak sürdürmek istiyorsak teknolojik farklılığı ortadan kaldırmamız gerek. bunu yapmanın en iyi yolu da temel kavramları tartışmaktır. kavramlar hala geçerliyse (zavallı dünyamız da bir ara Atlas'ın sırtındaydı), o zaman işin teknolojik boyutunu tartışmak anlamlı olur. yok temel kavramlar fıslarsa (Atlas'ı hala gören olmadı) o zaman teknoloji özünde doğru/geçerli olsa bile yapacak pek bir şey.

Asimov ve çağdaşlarında görülen genel fikirlerden birisi robotların insanlardan üstün olduğunu kabul etmeleri. hem bedensel olarak hem de zihinsel olarak (HAL arkadaşımız bunların son iyi örneği gibi). ama göz ardı edilen şey robotları eninde sonunda bizim yaratacak olmamız ve bu süreçte herşey bize bağlıyken, bunları sınırlandırmak için neden kurallara gerek duyalım. Şahane bir araba yapıcaz ama çok hızlanması diye dörtköşeli lastikler takacağız, olur mu ki?

benim Asimov'la ilgili takıldığım nokta bu. yaptın şahane makineyi sal doğaya dünyayı güzelleştirsin, senin bir tarafını ısırmak nerden aklına gelecek ki?

[ground]

iyi başlamadı ama iyi bitti

O ingilizce yazınızın türkçesinide isteriz  8)

iyi çalışmalar.

[balper]

İyi bitmesi beni de sevindirdi gerçekten.

Türkçesi üzerinde çalışmaya başladım.

Kolay gelsin

[mustafacan]

ASİMOV gerçektende çok ilgi çeken projelerden biri oldu. ama hala dünyada robotların insanlara zarar verip vermeyeceği çok büyük bir kaos!
benim fikirim;  bu aletin öğrenme yeteneği varsa ve eğer bunu geliştirmeye başlarsa artık kendi doğrularını ve kendi isteklerini meydana getirmeye başlar.
örnekmi: mesela ne demiş madde1 insana zarar vermiceen. şimdi bu düşünmeye başladı yorum yaparak öğrenmeye başladı sonuçta varacağı mantık insan bana zarar verebilir peki ben neden ona zarar vermeyeyim. beni yok edebilir. (mantık devreye girerse kurallar ihlal olur)o halde kendim için tehlike arz eden bu durumu portadan kaldırayım.
Bu olay sonucu robotun oluşturduğu
Yeni madde; İnsanlar bana zarar verebilir. insanları yok et!
işte size kurgu olası ihtimalleride çok yüksek hemde. onun için istediğiniz kadar kurallar koyun ama mutlaka bi yerde bi kuralda açıklık olacak ve robot burayı bu açığı kullanarak kendini kurallarını geliştirecek.

insanlar kanun ve kuralları düzgün eks,iksiz yazabilselerdi bugün hala yeni kararlar uygulamalar çıkmazdı. Eksikler olmazdı

VELHASIL ASİMOVA DİKKAT!

[balper]

İlginç bir yaklaşım ancak bu robot'un insanların ona zarar verebileceğini anlamasını öngörüyor... Zararın ne olduğunu nasıl öğrenecek, insanlar için bu çok kolay; elimizi ateşe uzatıyoruz ve canımız yanıyor. Robot kardeşimiz metal totosu eriyene kadar ateşin üzerinde otursa bile canı yanmayacak ki? İnsanların ona zarar vereceği sonucuna varması pek olası değil gibi.

[mustafacan]

İlginç bir yaklaşım ancak bu robot'un insanların ona zarar verebileceğini anlamasını öngörüyor... Zararın ne olduğunu nasıl öğrenecek, insanlar için bu çok kolay; elimizi ateşe uzatıyoruz ve canımız yanıyor. Robot kardeşimiz metal totosu eriyene kadar ateşin üzerinde otursa bile canı yanmayacak ki? İnsanların ona zarar vereceği sonucuna varması pek olası değil gibi.

insanların ona nasıl zarar vereceğinide izak edeyim insanlarla el sıkışıyor. sensorleri var görüyor yürüyor koşuyor. bir nevi hissediyor algılıyor. sen onun bu algılama yeteneğine zarar verirsen bakl bakalım daha ne yorumlar yapar. ayrıca bir robot olsa  no problem ya birden çok olursa diğerini off yaptığını görürse. yada bu projeyi sistemi rafa kaldırıyoz artık asimolar kapatılacak deseler neler yapar acaba! nihayetinde hızlı bi şekilde insan mantığına yanaşıyor ve düşünüyor ama doğru amma yanlış karar verir!