837 水先案名無い人 : 2008/05/06(火) 01:26:40 ID:gXtwJAZd0
「ロボット工学の三原則」には、あんまり有名ではないが、ロボット達が作り上げた第0条というのが追加されててな。
第0条 人類に危害を加えてはならないし、人類に危険が及ぶのを見過ごしてはならない。これは第1条に優先する。
840 水先案名無い人 : 2008/05/07(水) 13:46:29 ID:1cRY/Fb+0第0条 人類に危害を加えてはならないし、人類に危険が及ぶのを見過ごしてはならない。これは第1条に優先する。
>>837
＞人類に危害を加えてはならないし、人類に危険が及ぶのを見過ごしてはならない
これは第1条じゃないのか？
これが0条だとしたらあとの3つは何？
841 水先案名無い人 : 2008/05/07(水) 19:07:18 ID:rEXbPWCk0＞人類に危害を加えてはならないし、人類に危険が及ぶのを見過ごしてはならない
これは第1条じゃないのか？
これが0条だとしたらあとの3つは何？
>>840
第０条：「人類」に危害を加えない、見過ごしてもいけない。（最優先事項）
（０条優先例：Ａを殺害する以外彼の大量殺人を止めれない状況、大勢の人を守るためＡを殺害。
人類絶滅を命じられたが無視した。）
第１条：「人間」に危害を加えない、見過ごしてもいけない。（優先事項）
（１条優先例：自殺しようとする人から「ほっといてくれ」といわれたが無視して自殺を妨害。
人間を助けたら自分は壊れてしまうと分かっていたが、迷わず人間を助けた。）
第２条：人間の命令に従う。（二次優先事項）
（２条優先例：人間にロボットでも危険な環境での作業を命じられ、迷わず実行した。）
第３条：自分を守る。（最下級事項）
（３条に従った例：頭上からの落下物を回避。）
第０条：「人類」に危害を加えない、見過ごしてもいけない。（最優先事項）
（０条優先例：Ａを殺害する以外彼の大量殺人を止めれない状況、大勢の人を守るためＡを殺害。
人類絶滅を命じられたが無視した。）
第１条：「人間」に危害を加えない、見過ごしてもいけない。（優先事項）
（１条優先例：自殺しようとする人から「ほっといてくれ」といわれたが無視して自殺を妨害。
人間を助けたら自分は壊れてしまうと分かっていたが、迷わず人間を助けた。）
第２条：人間の命令に従う。（二次優先事項）
（２条優先例：人間にロボットでも危険な環境での作業を命じられ、迷わず実行した。）
第３条：自分を守る。（最下級事項）
（３条に従った例：頭上からの落下物を回避。）
オススメの動画
今日の更新一覧
その他の記事
コメントありがとう御座います。⇒最新のコメントへ（73）
まんこー！
きっと２
成恵一巻で初めて知ったなあ
ジスカルド乙
なんかカッコいい
アイザックアシモフの作品ちゃんと読んでたら0条も知ってるはず
ロボット工学の三原則を使った映画なのに第0条無視したストーリーだと、
その映画嫌いになっちゃうんだよな
ロボット工学の三原則を使った映画なのに第0条無視したストーリーだと、
その映画嫌いになっちゃうんだよな
おっと、アイロボットの悪口はそこまでだ
第０条：「会社」に危害を加えない、見過ごしてもいけない。（最優先事項）
（０条優先例：労働基準監督署にかけこまない）
第１条：「上司」に危害を加えない、見過ごしてもいけない。（優先事項）
（１条優先例：自分だけ会社をやめようとしたA君の告白を上司にバラす）
第２条：上司の命令に従う。（二次優先事項）
（２条優先例：上司に3K部署への出向を命じられ、徹夜と休出を命じられ迷いながらも実行した）
第３条：自分を守る。（最下級事項）
（３条に従った例：鬱になり会社の役に立たなくなったので自己都合で退職）
（０条優先例：労働基準監督署にかけこまない）
第１条：「上司」に危害を加えない、見過ごしてもいけない。（優先事項）
（１条優先例：自分だけ会社をやめようとしたA君の告白を上司にバラす）
第２条：上司の命令に従う。（二次優先事項）
（２条優先例：上司に3K部署への出向を命じられ、徹夜と休出を命じられ迷いながらも実行した）
第３条：自分を守る。（最下級事項）
（３条に従った例：鬱になり会社の役に立たなくなったので自己都合で退職）
>>1008
確かにロボットって語源は「労働」だしな
確かにロボットって語源は「労働」だしな
ワンニャン三原則も欲しいところ。
人間と同等の知能を持つロボットを作ろうと考える野心的な科学者が、ロボット３原則に従うロボットを作るとは思えないけどね。
そういう科学者はどちらかと言うと「人間を超えるロボット」を作ろうとすると思う。
そういう科学者はどちらかと言うと「人間を超えるロボット」を作ろうとすると思う。
※1011
ロボット工学三原則って人間を超えたロボットに対して、
人間より下位の存在として隷属させるためって意味もある。
ロボット工学三原則って人間を超えたロボットに対して、
人間より下位の存在として隷属させるためって意味もある。
>>1008
否定しきれないだけに、鬱になってきた。
否定しきれないだけに、鬱になってきた。
米1012
うん、それは判る。
ただそういうマッドな科学者は「人間を超え人間を導く存在（＝一種の神？）」としてのロボットを作りそうなイメージ。
人間の道具としてのロボットを作るなら高度な知能なんて要らないだろうし。
うん、それは判る。
ただそういうマッドな科学者は「人間を超え人間を導く存在（＝一種の神？）」としてのロボットを作りそうなイメージ。
人間の道具としてのロボットを作るなら高度な知能なんて要らないだろうし。
ここでジャスロペダス登場
（ベイリーの作品に登場する、三原則なんてはなから無視して世界の王となるロボット、女とやる機能まで持っている）
（ベイリーの作品に登場する、三原則なんてはなから無視して世界の王となるロボット、女とやる機能まで持っている）
※1014
馬鹿かよ、三原則関係無しの完全なお前の素人偏見だろｗｗｗ
とりあえず人工知能や人工無能の思想を勉強して出直して来いと。
馬鹿かよ、三原則関係無しの完全なお前の素人偏見だろｗｗｗ
とりあえず人工知能や人工無能の思想を勉強して出直して来いと。
小学生の頃、作者名知らずにアシモフの作品ばっかり読んでて
ロボット三原則はロボット小説全てに適用される原則だと思ってた。
ロボット三原則はロボット小説全てに適用される原則だと思ってた。
>>1006
0条は三原則の欠点に気付いて後から（登場人物が）追加したんだから、ストーリー的にその前が舞台なら0条登場しなくてもおかしくないんじゃない？
0条は三原則の欠点に気付いて後から（登場人物が）追加したんだから、ストーリー的にその前が舞台なら0条登場しなくてもおかしくないんじゃない？
そもそも第零原則が有名じゃないのは欠陥を含んだ原則だから。
そっか、ゼロは最後に人間を倒したけど正しい行いだったんだね。
0条とか初めて聞いた星新一愛読者の俺
>>1008
上司「お前はクビだ！」
ロボコップ「はいそうですか」バンバン（銃声）
上司「お前はクビだ！」
ロボコップ「はいそうですか」バンバン（銃声）
第０原則を杓子定規に解釈した結果が人間に対する反乱だからなぁ
困ったもんだよ
困ったもんだよ
B国のロボット
Ａ国民を殺害する以外A国民によるB国民の大量殺人を止めれない状況、大勢の人を守るためＡ国民を殺害。
A国のロボット
上記の逆
普通に戦争に使えるな
Ａ国民を殺害する以外A国民によるB国民の大量殺人を止めれない状況、大勢の人を守るためＡ国民を殺害。
A国のロボット
上記の逆
普通に戦争に使えるな
>>1020
ああ、確かに問題なしだな
でも初期のゼロはそれこそ>>1011みたいな思想からできてたんだよな・・・
超えるのは人間じゃないけどな
ああ、確かに問題なしだな
でも初期のゼロはそれこそ>>1011みたいな思想からできてたんだよな・・・
超えるのは人間じゃないけどな
第４条ただし、どらえもんはその限りにあらず
ナイフの柄、階段に手すり、電線は絶縁、圧力鍋には安全弁
どんな人工製品にも、危険を最小限に止めるための考案がなされている
ロボットを単なる人工物として考えた場合、
それはでき得る限り安全なものとして設計されねばならない
「ロボットの時代」の序文から。
どんな人工製品にも、危険を最小限に止めるための考案がなされている
ロボットを単なる人工物として考えた場合、
それはでき得る限り安全なものとして設計されねばならない
「ロボットの時代」の序文から。
>人間を超え人間を導く存在（＝一種の神？）」としてのロボットを作りそう
お前のせいでリルルが！
お前のせいでリルルが！
「絶対彼氏」がクソというスレはここでつか？
フレーム問題もそうだけど、ロボットは融通の利かないもの みたいな考えが浸透してしまってるのが問題だな
短編じゃ使い辛そうなルールだな
SF作家が作り上げたモノが、何でロボット工学の原則になるのよ。
Gundamなんか一発で駄目じゃん。
Gundamなんか一発で駄目じゃん。
>>1032
人工知能ではないからじゃない？
人工知能ではないからじゃない？
※1031
第０条のことなら、確かに。
三原則のことなら、そもそも短編。
ガンダムとかは、ロボットつーより兵器だからね。
アシモフの三原則は、工業機械とか家電製品とか向けのもの。
第０条のことなら、確かに。
三原則のことなら、そもそも短編。
ガンダムとかは、ロボットつーより兵器だからね。
アシモフの三原則は、工業機械とか家電製品とか向けのもの。
２条の命令がロボット自身の機能停止の可能性が高い場合，
ロボットは自分の命(？)を守るために命令を断ることができるってのが３条に含まれているってきいたことがあるぞ．
ロボットは自分の命(？)を守るために命令を断ることができるってのが３条に含まれているってきいたことがあるぞ．
第３条
ロボットは前掲第１条及び第２条に反するおそれの無い限り、
自己を守らなければならない
ロボットは前掲第１条及び第２条に反するおそれの無い限り、
自己を守らなければならない
この原則に従った場合、自殺者がロボットの頭上に降ってきた時どうなるの？
>>1034
そう、第0条の方。
第0条と第1条が相克する物語は枚数が要りそうだなあ、と。
そう、第0条の方。
第0条と第1条が相克する物語は枚数が要りそうだなあ、と。
受け止めるしかあるまいよ
米32
お前、何言ってんだ？
お前、何言ってんだ？
０条優先例：Ａを殺害する以外彼の大量殺人を止めれない状況、大勢の人を守るためＡを殺害。
この例は適切じゃないね。
１条だけでもＡを殺害する。
陽電子頭脳は焼き切れるだろうが。
この例は適切じゃないね。
１条だけでもＡを殺害する。
陽電子頭脳は焼き切れるだろうが。
ドラえもん百科でアシモフ３原則を取り上げてたせいで日本では当たり前になっちゃったんだぞ（。・ω・）
こんな曖昧な規定だけじゃ制御できねってばよ！
こんな曖昧な規定だけじゃ制御できねってばよ！
大鉄人〜ワンセブン〜
でもロボットを作れる悪い奴は
無視するかもな
無視するかもな
昔のとあるゲームのラスボスが人間をてきどに間引くことで人間を絶滅から救うという考えだった件について
※32
アシモフの「作品の中」に”ロボット工学の三原則”という記述があるんだよカスｗｗｗ
アシモフの「作品の中」に”ロボット工学の三原則”という記述があるんだよカスｗｗｗ
まあ、現実的には最初に実用化される自立行動可能な知的ロボットって
戦闘用(多分アメリカ製)になるだろうから、こんなもん歯牙にもかけないだろうな
戦闘用(多分アメリカ製)になるだろうから、こんなもん歯牙にもかけないだろうな
※1016
開発者が思想に従うかどうかって話じゃないの？
開発者が思想に従うかどうかって話じゃないの？
先に文化女中器を実用化して下さい
第０条は正式に三原則に追加されたわけじゃないと思うんだけど･･
意味が分からない僕に分かりやすく教えてください
てことはさ、映画とかでもよくある
乗客が乗ってる旅客機が乗っ取られて、撃墜しないともっと大勢の人が死ぬって場合だと
このロボットは躊躇なく撃ち落すのか
乗客が乗ってる旅客機が乗っ取られて、撃墜しないともっと大勢の人が死ぬって場合だと
このロボットは躊躇なく撃ち落すのか
まず「人間」についての定義をお願いします。
猫を人間として覚えさせる⇒大混乱
猫を人間として覚えさせる⇒大混乱
鉄腕アトムとか見たほうがいいよ
人間の汚いやり口を分かりやすく説明しているから
人間の汚いやり口を分かりやすく説明しているから
>>1018
アイザックアシモフの作中の第0条を作り出したロボットはその後の銀河帝国興亡史にも
影響与える唯一無二の存在なわけだ（作者の原作に忠実に考えると）
それなのに簡単に映画（アイロボットね）でまだ銀河帝国が存在しないような時間軸に
第0条を獲得したロボットがいるなんてことになったら第0条ってなんだよと。
だから映画の早漏すぎる設定横取りが嫌いかなぁ
アイザックアシモフの作中の第0条を作り出したロボットはその後の銀河帝国興亡史にも
影響与える唯一無二の存在なわけだ（作者の原作に忠実に考えると）
それなのに簡単に映画（アイロボットね）でまだ銀河帝国が存在しないような時間軸に
第0条を獲得したロボットがいるなんてことになったら第0条ってなんだよと。
だから映画の早漏すぎる設定横取りが嫌いかなぁ
「アイ・ロボット」はタイトルだけでしょ
「アンドリュー」ならまだしも
「アンドリュー」ならまだしも
ロボットといっても、それ自身がAI等を搭載していて自律行動を行う種類のもののみに適用されるの？(人が遠隔操作で弾丸を発射する無人攻撃機などはこの原則の適用対象外？)
攻殻機動隊SACに出てくるタチコマなんかはアウト？
攻殻機動隊SACに出てくるタチコマなんかはアウト？
※54が言ってるけど、世界の手塚も参考にしたのがアシモフのロボット三原則で
やっぱり※で懸念が出てる様に、それに反した話も当然ある。
今、浦澤が連載してるプルートウがそれに該当すると思われ。
あれ、面白いよ。
やっぱり※で懸念が出てる様に、それに反した話も当然ある。
今、浦澤が連載してるプルートウがそれに該当すると思われ。
あれ、面白いよ。
アシモフの短編だったかで、
２条と３条のはざまで揺れるロボットの話があったなぁ。
２条と３条のはざまで揺れるロボットの話があったなぁ。
第一原則を緩和して第二原則と同等にしたロボットの話だったな
結果自尊心が肥大して反乱を起こしたが、人間を殺そうとして
電子脳がショート
人間の定義を変えることで殺人行為を可能にしたロボットもあったな
ある特定の条件（劇中では会話のイントネーションとか年齢とか）を満たさない生物は「人間じゃない」から殺せちゃう
つまり、命令者だけを「人間」と定義すれば普通にロボットの兵団を組織できるというわけ
ロボット長編２作目のはだかの太陽で近い概念は出てきたが、実際に殺人を躊躇しないロボットが登場するのは結構後だった
結果自尊心が肥大して反乱を起こしたが、人間を殺そうとして
電子脳がショート
人間の定義を変えることで殺人行為を可能にしたロボットもあったな
ある特定の条件（劇中では会話のイントネーションとか年齢とか）を満たさない生物は「人間じゃない」から殺せちゃう
つまり、命令者だけを「人間」と定義すれば普通にロボットの兵団を組織できるというわけ
ロボット長編２作目のはだかの太陽で近い概念は出てきたが、実際に殺人を躊躇しないロボットが登場するのは結構後だった
>1058
よく誤解されてるけど手塚治虫氏のロボット法はアシモフのロボット三原則を参考にしていないよ。偶然似たような形になっただけ。
サン出版版の鉄腕アトムに手塚治虫氏自らが書いてた。
むしろ手塚氏のロボット法のほうが先らしいよ。
よく誤解されてるけど手塚治虫氏のロボット法はアシモフのロボット三原則を参考にしていないよ。偶然似たような形になっただけ。
サン出版版の鉄腕アトムに手塚治虫氏自らが書いてた。
むしろ手塚氏のロボット法のほうが先らしいよ。
>>1016の意味がよくわからない
誰か解説プリーズ
誰か解説プリーズ
>>1008
10年前の俺や
10年前の俺や
※1057
ロボットの自律行動（思考）を制御するのが三原則
人が遠隔操作する“機械”は、ロボットの範疇から外れてると思う
アシモフのロボットものには、兵器としてのロボットは登場しないからねぇ
軍用ロボットには、まったく別の概念が必要だろうね
ロボットの自律行動（思考）を制御するのが三原則
人が遠隔操作する“機械”は、ロボットの範疇から外れてると思う
アシモフのロボットものには、兵器としてのロボットは登場しないからねぇ
軍用ロボットには、まったく別の概念が必要だろうね
人工知能にしても綿密な学習が必要なわけだし「人間」が消える事は無いと思うな。
我々の次世代の「人間」は鉄の体とシリコンの脳で構成されるというだけで
我々の次世代の「人間」は鉄の体とシリコンの脳で構成されるというだけで
>>59
「金属を腐食させるガス」の中で「鉱物の採掘をしろ」って言われる奴かな
アシモフが凄いのは
自分が考えた三原則に縛られたロボットの立ち振る舞いを
やっぱり自分で考えちゃった事だな
「金属を腐食させるガス」の中で「鉱物の採掘をしろ」って言われる奴かな
アシモフが凄いのは
自分が考えた三原則に縛られたロボットの立ち振る舞いを
やっぱり自分で考えちゃった事だな
Wikipediaの「ロボット工学三原則」項目
ttp://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E5%B7%A5%E5%AD%A6%E4%B8%89%E5%8E%9F%E5%89%87
見てたら、「多くの現実のロボット工学者が、三原則に則したロボットの実現を研究の指針とし、第一条を理由に研究の軍事転用を拒むなど、三原則を倫理上の拠り所としているのもまた事実である。」と書いてあって驚いた。
ロボット三原則ってSFの中だけのものじゃないの？どこまで現実のロボット工学に影響を及ぼしてるんだろ…。
ttp://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E5%B7%A5%E5%AD%A6%E4%B8%89%E5%8E%9F%E5%89%87
見てたら、「多くの現実のロボット工学者が、三原則に則したロボットの実現を研究の指針とし、第一条を理由に研究の軍事転用を拒むなど、三原則を倫理上の拠り所としているのもまた事実である。」と書いてあって驚いた。
ロボット三原則ってSFの中だけのものじゃないの？どこまで現実のロボット工学に影響を及ぼしてるんだろ…。
最近のＳＦ業界の流行はシンギュラリティ・ポイント。
分かりやすく言うと自立した思考と自己改造できるAIが出来たとする。
そうするとそいつは自分よりも更に高度なAIを瞬く間に作る。
更に高度なAIもまたどんどん高度化されたAIを作っていき
いつの間にか人類は全く感知できない、もしくは問題にも上らない存在へと凋落する。
人類はその流れを作り出す程度の存在意義、過程のものだってもの。
分かりやすく言うと自立した思考と自己改造できるAIが出来たとする。
そうするとそいつは自分よりも更に高度なAIを瞬く間に作る。
更に高度なAIもまたどんどん高度化されたAIを作っていき
いつの間にか人類は全く感知できない、もしくは問題にも上らない存在へと凋落する。
人類はその流れを作り出す程度の存在意義、過程のものだってもの。
メダロット懐かしいｗ
０条はファウンデーションシリーズだったっけ？
米1024
思うに、スレ元の例が適切ではない。
たぶん０条が適用されるのは、人類という種全体に関わる時だけだと思う。
思うに、スレ元の例が適切ではない。
たぶん０条が適用されるのは、人類という種全体に関わる時だけだと思う。
※1070
「ロボットと帝国」
ファウンデーションシリーズにつながる１作
「ロボットと帝国」
ファウンデーションシリーズにつながる１作
スーザン・キャルビン博士は現在、26歳のお年頃ですよ。
まだロビィすら出来ていないのにね…寂しいなぁ。
まだロビィすら出来ていないのにね…寂しいなぁ。
お気軽に一言お願いします。
⇒最初のコメントへ（73）
