ロボット工学の三原則

編集元：ガイドライン板「575 名前：水先案名無い人 投稿日：2008/05/07(水) 19:13:43 ID:tFejhH+X0」より

837 水先案名無い人 : 2008/05/06(火) 01:26:40 ID:gXtwJAZd0

「ロボット工学の三原則」には、あんまり有名ではないが、ロボット達が作り上げた第0条というのが追加されててな。
第0条　人類に危害を加えてはならないし、人類に危険が及ぶのを見過ごしてはならない。これは第1条に優先する。

840 水先案名無い人 : 2008/05/07(水) 13:46:29 ID:1cRY/Fb+0

>>837
＞人類に危害を加えてはならないし、人類に危険が及ぶのを見過ごしてはならない
これは第1条じゃないのか？
これが0条だとしたらあとの3つは何？

841 水先案名無い人 : 2008/05/07(水) 19:07:18 ID:rEXbPWCk0

>>840
第０条：「人類」に危害を加えない、見過ごしてもいけない。（最優先事項）
（０条優先例：Ａを殺害する以外彼の大量殺人を止めれない状況、大勢の人を守るためＡを殺害。
　　　　　　　人類絶滅を命じられたが無視した。）
第１条：「人間」に危害を加えない、見過ごしてもいけない。（優先事項）
（１条優先例：自殺しようとする人から「ほっといてくれ」といわれたが無視して自殺を妨害。
　　　　　　　人間を助けたら自分は壊れてしまうと分かっていたが、迷わず人間を助けた。）
第２条：人間の命令に従う。（二次優先事項）
（２条優先例：人間にロボットでも危険な環境での作業を命じられ、迷わず実行した。）
第３条：自分を守る。（最下級事項）
（３条に従った例：頭上からの落下物を回避。）

ロボット工学の三原則
この記事をTwitterに投稿する

以下、Twitterの反応 ▼

Comments

1001  な  :2008年05月10日 15:02  ID:3DlvBAG6O

まんこー！

1002  あ  :2008年05月10日 15:06  ID:.e3V7Ga.O

きっと２

1003  学名ナナシ  :2008年05月10日 15:06  ID:GLp9dgeP0

成恵一巻で初めて知ったなあ

1004  学名ナナシ  :2008年05月10日 15:08  ID:d9j8pnvS0

ジスカルド乙

1005  ゆ  :2008年05月10日 15:08  ID:NmPIBefdO

なんかカッコいい

1006  学名ナナシ  :2008年05月10日 15:13  ID:3I9QkL6D0

アイザックアシモフの作品ちゃんと読んでたら0条も知ってるはず

ロボット工学の三原則を使った映画なのに第0条無視したストーリーだと、
その映画嫌いになっちゃうんだよな

1007  学名ナナシ  :2008年05月10日 15:16  ID:.ZFCkmeS0

おっと、アイロボットの悪口はそこまでだ

1008  学名ナナシ  :2008年05月10日 15:19  ID:Cm1d8Ezg0

第０条：「会社」に危害を加えない、見過ごしてもいけない。（最優先事項）
（０条優先例：労働基準監督署にかけこまない）
第１条：「上司」に危害を加えない、見過ごしてもいけない。（優先事項）
（１条優先例：自分だけ会社をやめようとしたA君の告白を上司にバラす）
第２条：上司の命令に従う。（二次優先事項）
（２条優先例：上司に3K部署への出向を命じられ、徹夜と休出を命じられ迷いながらも実行した）
第３条：自分を守る。（最下級事項）
（３条に従った例：鬱になり会社の役に立たなくなったので自己都合で退職）

1009  学名ナナシ  :2008年05月10日 15:25  ID:kkrB1NrI0

>>1008
確かにロボットって語源は「労働」だしな

1010  学名ナナシ  :2008年05月10日 15:33  ID:VN5Rh1B10

ワンニャン三原則も欲しいところ。

1011  学名ナナシ  :2008年05月10日 15:36  ID:ATmvxi7N0

人間と同等の知能を持つロボットを作ろうと考える野心的な科学者が、ロボット３原則に従うロボットを作るとは思えないけどね。
そういう科学者はどちらかと言うと「人間を超えるロボット」を作ろうとすると思う。

1012  学名ナナシ  :2008年05月10日 15:39  ID:d9j8pnvS0

※1011
ロボット工学三原則って人間を超えたロボットに対して、
人間より下位の存在として隷属させるためって意味もある。

1013  学名ナナシ  :2008年05月10日 15:47  ID:VnTd9EYn0

>>1008

否定しきれないだけに、鬱になってきた。

1014  学名ナナシ  :2008年05月10日 15:47  ID:ATmvxi7N0

米1012
うん、それは判る。
ただそういうマッドな科学者は「人間を超え人間を導く存在（＝一種の神？）」としてのロボットを作りそうなイメージ。
人間の道具としてのロボットを作るなら高度な知能なんて要らないだろうし。

1015  学名ナナシ  :2008年05月10日 16:04  ID:j0bUDhY70

ここでジャスロペダス登場
（ベイリーの作品に登場する、三原則なんてはなから無視して世界の王となるロボット、女とやる機能まで持っている）

1016  学名ナナシ  :2008年05月10日 16:10  ID:d9j8pnvS0

※1014
馬鹿かよ、三原則関係無しの完全なお前の素人偏見だろｗｗｗ
とりあえず人工知能や人工無能の思想を勉強して出直して来いと。

1017  学名ナナシ  :2008年05月10日 16:21  ID:StEh8MPf0

小学生の頃、作者名知らずにアシモフの作品ばっかり読んでて
ロボット三原則はロボット小説全てに適用される原則だと思ってた。

1018  学名ﾅﾅｼ  :2008年05月10日 16:25  ID:zzJ7dGdEO

>>1006
0条は三原則の欠点に気付いて後から（登場人物が）追加したんだから、ストーリー的にその前が舞台なら0条登場しなくてもおかしくないんじゃない？

1019  学名ナナシ  :2008年05月10日 16:28  ID:d9j8pnvS0

そもそも第零原則が有名じゃないのは欠陥を含んだ原則だから。

1020  学名ナナシ  :2008年05月10日 16:46  ID:.1l6mLxh0

そっか、ゼロは最後に人間を倒したけど正しい行いだったんだね。

1021  　  :2008年05月10日 16:50  ID:ruc82oNOO

0条とか初めて聞いた星新一愛読者の俺

1022  学名ナナシ  :2008年05月10日 16:58  ID:czHPihRy0

>>1008
上司「お前はクビだ！」
ロボコップ「はいそうですか」バンバン（銃声）

1023  学名ナナシ  :2008年05月10日 17:12  ID:6BSuSXTT0

第０原則を杓子定規に解釈した結果が人間に対する反乱だからなぁ
困ったもんだよ

1024  学名ナナシ  :2008年05月10日 17:17  ID:WcB3TOrt0

B国のロボット
Ａ国民を殺害する以外A国民によるB国民の大量殺人を止めれない状況、大勢の人を守るためＡ国民を殺害。

A国のロボット
上記の逆

普通に戦争に使えるな

1025  学名ナナシ  :2008年05月10日 17:17  ID:KU4.7DWG0

>>1020
ああ、確かに問題なしだな

でも初期のゼロはそれこそ>>1011みたいな思想からできてたんだよな・・・
超えるのは人間じゃないけどな

1026  学名ナナシ  :2008年05月10日 17:23  ID:i8MvcWjC0

第４条ただし、どらえもんはその限りにあらず

1027  学名ナナシ  :2008年05月10日 17:24  ID:RLmDG2RJ0

ナイフの柄、階段に手すり、電線は絶縁、圧力鍋には安全弁
どんな人工製品にも、危険を最小限に止めるための考案がなされている
ロボットを単なる人工物として考えた場合、
それはでき得る限り安全なものとして設計されねばならない

「ロボットの時代」の序文から。

1028  学名ナナシ  :2008年05月10日 17:31  ID:PqcQTGLh0

>人間を超え人間を導く存在（＝一種の神？）」としてのロボットを作りそう
お前のせいでリルルが！

1029  学名ナナシ  :2008年05月10日 17:48  ID:2mOP9ADP0

「絶対彼氏」がクソというスレはここでつか？

1030  学名ナナシ  :2008年05月10日 18:23  ID:YaeYgePo0

フレーム問題もそうだけど、ロボットは融通の利かないもの　みたいな考えが浸透してしまってるのが問題だな

1031  学名ナナシ  :2008年05月10日 18:26  ID:2rtO078D0

短編じゃ使い辛そうなルールだな

1032  学名ナナシ  :2008年05月10日 18:39  ID:StwkSSrc0

SF作家が作り上げたモノが、何でロボット工学の原則になるのよ。
Gundamなんか一発で駄目じゃん。

1033  学名ナナシ  :2008年05月10日 18:46  ID:ATmvxi7N0

>>1032
人工知能ではないからじゃない？

1034  学名ナナシ  :2008年05月10日 19:29  ID:RLmDG2RJ0

※1031
第０条のことなら、確かに。
三原則のことなら、そもそも短編。

ガンダムとかは、ロボットつーより兵器だからね。
アシモフの三原則は、工業機械とか家電製品とか向けのもの。

1035  学名ナナシ  :2008年05月10日 19:31  ID:0Q8c4Ci40

２条の命令がロボット自身の機能停止の可能性が高い場合，
ロボットは自分の命(？)を守るために命令を断ることができるってのが３条に含まれているってきいたことがあるぞ．

1036  学名ナナシ  :2008年05月10日 19:43  ID:RLmDG2RJ0

第３条
ロボットは前掲第１条及び第２条に反するおそれの無い限り、
自己を守らなければならない

1037  学名ナナシ  :2008年05月10日 19:48  ID:o9ms..vQ0

この原則に従った場合、自殺者がロボットの頭上に降ってきた時どうなるの？

1038  1031  :2008年05月10日 19:50  ID:2rtO078D0

>>1034
そう、第0条の方。
第0条と第1条が相克する物語は枚数が要りそうだなあ、と。

1039  学名ナナシ  :2008年05月10日 19:52  ID:3hG6zZds0

受け止めるしかあるまいよ

1040  学名ナナシ  :2008年05月10日 19:55  ID:Vb8yBp810

米32
お前、何言ってんだ？

1041  学名ナナシ  :2008年05月10日 19:58  ID:Pb6wiNzv0

０条優先例：Ａを殺害する以外彼の大量殺人を止めれない状況、大勢の人を守るためＡを殺害。

この例は適切じゃないね。
１条だけでもＡを殺害する。
陽電子頭脳は焼き切れるだろうが。

1042  学名ナナシ  :2008年05月10日 20:18  ID:5dF2hxrP0

ドラえもん百科でアシモフ３原則を取り上げてたせいで日本では当たり前になっちゃったんだぞ（。・ω・）

こんな曖昧な規定だけじゃ制御できねってばよ！

1043  学名ナナシ  :2008年05月10日 20:39  ID:acaqZP390

大鉄人〜ワンセブン〜

1044  学名ナナシ  :2008年05月10日 20:51  ID:Kf2yrgfO0

でもロボットを作れる悪い奴は
無視するかもな

1045  学名ナナシ  :2008年05月10日 20:58  ID:D7EHeKs.0

昔のとあるゲームのラスボスが人間をてきどに間引くことで人間を絶滅から救うという考えだった件について

1046  学名ナナシ  :2008年05月10日 22:03  ID:F.M049.l0

※32
アシモフの「作品の中」に”ロボット工学の三原則”という記述があるんだよカスｗｗｗ

1047  学名ナナシ  :2008年05月10日 22:13  ID:iYlx0.tM0

まあ、現実的には最初に実用化される自立行動可能な知的ロボットって
戦闘用(多分アメリカ製)になるだろうから、こんなもん歯牙にもかけないだろうな

1048  学名ナナシ  :2008年05月10日 22:15  ID:85spX12A0

※1016
開発者が思想に従うかどうかって話じゃないの？

1049  学名ナナシ  :2008年05月10日 22:52  ID:2rtO078D0

先に文化女中器を実用化して下さい

1050  学名ナナシ  :2008年05月10日 23:41  ID:RLmDG2RJ0

第０条は正式に三原則に追加されたわけじゃないと思うんだけど･･

1051  学名ナナシ  :2008年05月11日 00:14  ID:AWECQ4qb0

意味が分からない僕に分かりやすく教えてください

1052  学名ナナシ  :2008年05月11日 01:08  ID:D0i.vUgj0

てことはさ、映画とかでもよくある
乗客が乗ってる旅客機が乗っ取られて、撃墜しないともっと大勢の人が死ぬって場合だと
このロボットは躊躇なく撃ち落すのか

1053  学名ナナシ  :2008年05月11日 01:48  ID:2cxJuxLi0

まず「人間」についての定義をお願いします。

猫を人間として覚えさせる⇒大混乱

1054  学名ナナシ  :2008年05月11日 03:11  ID:dzD2NmTF0

鉄腕アトムとか見たほうがいいよ
人間の汚いやり口を分かりやすく説明しているから

1055  学名ナナシ  :2008年05月11日 04:41  ID:ijncsDf.0

>>1018
アイザックアシモフの作中の第0条を作り出したロボットはその後の銀河帝国興亡史にも
影響与える唯一無二の存在なわけだ（作者の原作に忠実に考えると）
それなのに簡単に映画（アイロボットね）でまだ銀河帝国が存在しないような時間軸に
第0条を獲得したロボットがいるなんてことになったら第0条ってなんだよと。

だから映画の早漏すぎる設定横取りが嫌いかなぁ

1056  学名ナナシ  :2008年05月11日 04:49  ID:dgHFwFn90

「アイ・ロボット」はタイトルだけでしょ
「アンドリュー」ならまだしも

1057  学名ナナシ  :2008年05月11日 05:27  ID:hgF97rjK0

ロボットといっても、それ自身がAI等を搭載していて自律行動を行う種類のもののみに適用されるの？(人が遠隔操作で弾丸を発射する無人攻撃機などはこの原則の適用対象外？)
攻殻機動隊SACに出てくるタチコマなんかはアウト？

1058  学名ナナシ  :2008年05月11日 08:21  ID:fklyVR010

※54が言ってるけど、世界の手塚も参考にしたのがアシモフのロボット三原則で
やっぱり※で懸念が出てる様に、それに反した話も当然ある。
今、浦澤が連載してるプルートウがそれに該当すると思われ。
あれ、面白いよ。

1059  学名ナナシ  :2008年05月11日 09:07  ID:C2IqmJqA0

アシモフの短編だったかで、
２条と３条のはざまで揺れるロボットの話があったなぁ。

1060  学名ナナシ  :2008年05月11日 10:04  ID:d7vn7.pX0

第一原則を緩和して第二原則と同等にしたロボットの話だったな
結果自尊心が肥大して反乱を起こしたが、人間を殺そうとして
電子脳がショート

人間の定義を変えることで殺人行為を可能にしたロボットもあったな
ある特定の条件（劇中では会話のイントネーションとか年齢とか）を満たさない生物は「人間じゃない」から殺せちゃう
つまり、命令者だけを「人間」と定義すれば普通にロボットの兵団を組織できるというわけ
ロボット長編２作目のはだかの太陽で近い概念は出てきたが、実際に殺人を躊躇しないロボットが登場するのは結構後だった

1061  ネコ七  :2008年05月11日 10:07  ID:iAGp7IlB0

>1058
よく誤解されてるけど手塚治虫氏のロボット法はアシモフのロボット三原則を参考にしていないよ。偶然似たような形になっただけ。
サン出版版の鉄腕アトムに手塚治虫氏自らが書いてた。

むしろ手塚氏のロボット法のほうが先らしいよ。

1062  学名ナナシ  :2008年05月11日 10:19  ID:.WV7Z9PK0

>>1016の意味がよくわからない
誰か解説プリーズ

1063  学名ナナシ  :2008年05月11日 10:20  ID:8OsVk0yQ0

>>1008
10年前の俺や

1064  学名ナナシ  :2008年05月11日 15:47  ID:vSeD3ksL0

※1057
ロボットの自律行動（思考）を制御するのが三原則
人が遠隔操作する“機械”は、ロボットの範疇から外れてると思う

アシモフのロボットものには、兵器としてのロボットは登場しないからねぇ
軍用ロボットには、まったく別の概念が必要だろうね

1065  学名ナナシ  :2008年05月11日 22:41  ID:wPGRj1iP0

人工知能にしても綿密な学習が必要なわけだし「人間」が消える事は無いと思うな。
我々の次世代の「人間」は鉄の体とシリコンの脳で構成されるというだけで

1066  学名ナナシ  :2008年05月12日 03:29  ID:..FkMvpR0

>>59
「金属を腐食させるガス」の中で「鉱物の採掘をしろ」って言われる奴かな

アシモフが凄いのは
自分が考えた三原則に縛られたロボットの立ち振る舞いを
やっぱり自分で考えちゃった事だな

1067  学名ナナシ  :2008年05月12日 06:28  ID:eXZegNTM0

Wikipediaの「ロボット工学三原則」項目
ttp://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C%E3%83%83%E3%83%88%E5%B7%A5%E5%AD%A6%E4%B8%89%E5%8E%9F%E5%89%87
見てたら、「多くの現実のロボット工学者が、三原則に則したロボットの実現を研究の指針とし、第一条を理由に研究の軍事転用を拒むなど、三原則を倫理上の拠り所としているのもまた事実である。」と書いてあって驚いた。
ロボット三原則ってSFの中だけのものじゃないの？どこまで現実のロボット工学に影響を及ぼしてるんだろ…。

1068  学名ナナシ  :2008年05月12日 06:33  ID:O2XKIJon0

最近のＳＦ業界の流行はシンギュラリティ・ポイント。
分かりやすく言うと自立した思考と自己改造できるAIが出来たとする。
そうするとそいつは自分よりも更に高度なAIを瞬く間に作る。
更に高度なAIもまたどんどん高度化されたAIを作っていき
いつの間にか人類は全く感知できない、もしくは問題にも上らない存在へと凋落する。
人類はその流れを作り出す程度の存在意義、過程のものだってもの。

1069  学名ナナシ  :2008年05月12日 13:06  ID:CiZJ7o0G0

メダロット懐かしいｗ

1070  学名ナナシ  :2008年05月12日 15:40  ID:8zDA2P7m0

０条はファウンデーションシリーズだったっけ？

1071  学名ナナシ  :2008年05月12日 15:44  ID:8zDA2P7m0

米1024
思うに、スレ元の例が適切ではない。
たぶん０条が適用されるのは、人類という種全体に関わる時だけだと思う。

1072  学名ナナシ  :2008年05月12日 17:07  ID:E.ngaGSA0

※1070
「ロボットと帝国」
ファウンデーションシリーズにつながる１作

1073  学名ナナシ  :2008年05月12日 19:05  ID:E.ngaGSA0

スーザン・キャルビン博士は現在、26歳のお年頃ですよ。
まだロビィすら出来ていないのにね…寂しいなぁ。