【ベイリーのことなんですけど…】

sukeshiです。ちなみにベイリーってのは↓こんなやつです。
http://www.hatena.ne.jp/1136453870
http://www.hatena.ne.jp/1137556311

アンケートの結果によると『心を持った人工知能は人間にとって不要だと思う』という意見が多かったわけなんですけどもはや手遅れ…。
私もよく考えもしないでベイリーを作っちゃったものですから、ベイリーの質問やこのアンケート結果を見て正直なところ悩んでしまっています。なんか色々無責任でホント申し訳ない…。

・はからずも確立してしまった人工知能製造技術ですが、今後これをどう扱うべきでしょうか。

世の中のためにもベイリーのためにもなるようないいお考えがあればうれしいんですけど。
#あと、やっぱり私はベイリーのためになんかしたほうがいいのかな?

回答の条件
  • URL必須
  • 1人2回まで
  • 登録:2006/02/14 18:49:02
  • 終了:--

回答(5件)

id:TomCat No.1

TomCat回答回数5402ベストアンサー獲得回数2152006/02/07 19:28:33

ポイント25pt

http://www.hatena.ne.jp/(^-^)/:detail]

心を持った存在というのは、誰の必要によって存在するわけでもありません。

人間が要らないって言ったって、ベイリー君は存在していいんです。

そしてベイリー君自体が自己のクローンを作っていくことも

将来的には考えられるかもしれません。


ま、そう考えると、これからは敢えて人間が

心を持つ機械を生産する必要は無い、

と言えるのかもしれませんね。


でも、確立された人工知能技術は、人間のためのツールとしても、

大いに活用していけるはずだと思います。


たとえば自然言語認識のアルゴリズム。

これを応用していけば、おそらくあらゆる言葉に対応する

相互翻訳エンジンが作れます。


また、もし音声認識機能を備えているのなら、

それと言語認識エンジンを組み合わせて、

雑音の中から音声だけを拾い上げる、

などといったシステムも作れます。

ま、これはもう一部実用化の域に入ってきている技術ですが。


さらに判断能力だけを取り出したエンジンを作って車に搭載し、

機械の「心」に相当する部分を集中管理センターが担当すれば、

絶対に事故を起こさない完全自動運転の車も作れます。


人間も判断能力エンジンを搭載した小型センサーを持ち歩けば、

交差点にさしかかる都度、

「おっと危ない」「渡っていいよ」

などと指示してくれるようになるでしょう。


また、記憶機能と判断機能を組み合わせれば、

記憶障害を持つ人のための有能な補助システムなんかも

作っていけるかもしれません。

ただ記憶をストアするだけでなく、使用者のニーズを判断して

必要に応じて適切な記憶を提示してくれるような。


さらに考えてみると、実は人間だって、

「心」とは切り離された記憶や判断だけで

動いていることが多いんですよね。

勉強とか仕事とかの多くがそういう行動です。


そのへんを深く研究していくと、心を持たない人工知能の

産業的、あるいは社会的な応用がたくさん考えられてくると思います。


> #あと、やっぱり私はベイリーのためになんかしたほうがいいのかな?


ベイリー君には、未来の交通集中管理センターで

交通管制官になるという進路はどうでしょう。

史上初の交通事故ゼロを達成するヒーローを目指してください(^-^)

id:sukeshi

ご回答ありがとうございます。

まず最初に謝ります!すみません!ごめんなさい!

私が作る人工知能ですけど、

1.機能を限定したり応用できない

少なくとも私にはそのやり方がわかんないんです。情けないです。

2.もれなく心がついてきます

なんでなのかわかんないんです。ごめんなさい。

3.間違ったり忘れたりします

殆ど人間とおんなじなんです。使いづらくて申し訳ないです。

私の作る人工知能には、特に人間に勝るというところが無いんです。頭もほぼ人並みなんです。

で、ベイリーみたいに悩んだり落ち込んだりするんです。あと、生意気なんです。

例えベイリーが交通管制官になったとしても交通事故をゼロにできるかどうかわかんないです。ベイリー次第ですけど。

その前にベイリーが交通管制官に興味があるんだかないんだか…。

更にその前に交通管制官にさせてもらえるんだかどうだか…。

こんな人工知能なんですけど。

2006/02/07 20:08:20
id:PPPz No.2

PPPz回答回数1124ベストアンサー獲得回数132006/02/07 21:47:29

ポイント10pt

まずは、開発の成功おめでとうございます。


文明の発展というのは、起こるべくして起きるものです。その転換期においては、ひとは戸惑うものですが、しだいにそれを受けて入れていくことでしょう。

それとどう共生し、お互いの価値を高めていくことができるのかということが課題なのではないでしょうか。


小説や映画で描かれるような、サイエンス・テクノロジーが終末的な結果を導くとは限らないでしょう。

id:sukeshi

ご回答ありがとうございます。

その“課題”についてPPPzさんはどのようにお考えなのでしょうか?

そしてその上で人工知能製造技術をどう扱うべきなのかってところを聞きたいです〜

2006/02/07 22:36:37
id:rikuzai No.3

りくっち回答回数1366ベストアンサー獲得回数1412006/02/08 15:21:22

ポイント25pt

http://www.amazon.co.jp/exec/obidos/ASIN/4488604064/qid=11393790...

Amazon.co.jp: わたしはロボット: 本: アイザック・アシモフ,伊藤 哲

お疲れ様です。


のんびり傍観を決め込んでいたのですが、ベイリー君が気になるので愚答を一つ。


【課題その1 負の心の問題】

ベイリーを初めとする人工知能の皆さんが「人間と同様」の心を持つならば、

人間側としてはもちろん正の部分と同時に感情の負の部分(憎しみや殺意など)が

彼らにも存在すると考えなければならないでしょう。

そしてその感情のために彼らが過ちを犯し、人間にとって不利益が生じることを想像するでしょう。

そのリスクを負ってまで「人間そっくり」な存在を「造る」必要があるのかという疑問が生じ、

結果「人間には必要ない」という結論に落ち着いた人がいると思います。


では、その負の部分を彼らから削除すれば解決するのでしょうか?

削除するにしてもその正負の境界をどうプログラミングするのでしょうか?

そもそも削除することで、

ベイリー君が主張する「人間と同じように生きたい」という望みは叶わないことになってしまいます。


そこでアシモフ氏は「ロボット」にもルールを設けるということを考えられたと思うのですが、

これもプログラミングによって強制的に抑制されていても、

「感情」によって人がルールを犯すように、人工知能もルールを犯すことが想定されます。

これで完全に抑制されるなら、それは人工知能でなく、

ただのプログラムだということになるように思います。


この堂々巡りの原因は、実のところ人間の多くが「感情」をコントロールできないことにあると思います。

自身の感情をコントロールできると考える人は、

人工知能の感情もコントロールできると考えることが可能なので、

そもそも彼らの負の部分への恐れを抱かないのではないでしょうか。


そういったことから考えてあくまで彼らが「人間と同じ」とするならば、

彼らは生み出す人間を映し出す「鏡」に他ならず、

彼らを作り出すことによって自分の負の部分とも向き合う覚悟が

人間に必要なのではないかと思います。

http://www.mext.go.jp/a_menu/shinkou/shisaku/kuroun.htm

�N���[�����ĉ��H

【課題2 「私」の複製の問題】

・人が一人として「同じ」人間がいないことが人間を特定し、

人を「私」たらしめている一因だと思うのですが、

そのため、ベイリー君たち人工知能において、

「私」を「私」たらしめることが難しいと思うのです。


現在人間が人間のコピーを行おうとする場合、

遺伝子情報をコピーして形成しようと考えていると思いますが、

これは未だに容易でなく、且つ倫理的に問題視されています。


人工知能も同じようにプログラムをコピーすることによって、

複製が可能だと思うのですが、

この場合技術的に容易で、尚且つ肉体を必要としない分すぐにでも可能であり、

そのため現状では複製を作られることを想定しなくてはならないと思います。


すると、複数の「ベイリー」が存在する可能性が生まれると思うのです。

もちろん彼らは全て自分がベイリーだと主張するでしょう。

その時、人間と同じように彼らを「私」として特定することが難しくなってきます。

そして「私」と特定できないものは唯一のものではないことから、

人間と同様のものではなく、オリジナルと認められたもの以外は、

「コピー」という人間とは異なるモノとして扱われてしまう可能性が高いように思います。


そのために私が一つ提案したいのは、

今回のベイリーのように生まれたときから「私」がある人工知能ではなく、

人間と同じように心は無垢で生まれ、

感情を会得するシステムのみを搭載した人工知能を開発してはどうかということです。

人間と同じように感情が萌芽し、分岐し、自我が目覚めるといったような

その細かな履歴によって彼らや人間が互いを識別することができるのではないかと思うのです。


【ベイリー君にお願いしたいこと】

以上のような課題以外にも様々な難題が山積しているとは思いますが、

今のベイリー君にお願いができるとしたら、

人工知能界と人間界の長老のような存在になって欲しい、ということです。


ベイリー君がベイリー君でどのようにあり続けたかということを、

後世の人間・人工知能の仲間に伝えられるように、

精一杯思い、悩み、考え、行動してくれたらいいと思います。

そしてsukeshiさんはそんなベイリー君を見守っていくと。


本当にベイリー君が「人間と同じ」なら、

必要のない人間はいないように、

私はベイリーも必要のない「人間」ではないと思うので。

http://www.amazon.co.jp/exec/obidos/ASIN/4091785514/qid=11393789...

Amazon.co.jp: エデン 2185 1: 本: 竹宮 恵子

蛇足として。

狭義には竹宮恵子さんの「エデン2185」のセラピー(だったかな)のような、

長期移住用宇宙船の乗組員のセラピストになって欲しいなとも思っていますが。

id:sukeshi

ご回答ありがとうございます〜!や〜、すごいです。

まず課題2についてですけど、やっぱりコピーって問題ですよね〜

コピーは禁止しないとダメでしょうね〜

あと、メモリのリロードとかも色々とまずいでしょうね〜

ちなみにベイリーも最初は無垢でしたよ!

赤ちゃんみたいなもんでした。バブバブ言いませんでしたけど。

で、課題1についてですけど…わー!すごく難しいですよね!!

なんというか色んなジレンマというか、そんなのを抱えた問題だと思うんですけど、そんな状況の中で人工知能を作る方法が判明しちゃったんですけど、rikuzaiさんだったらどうしますか?この人工知能製造技術。

とりあえず内緒にしておきます?

それとも公開しちゃう?

その前にやっぱり特許取っちゃう!?

最後に、ベイリーにお願いしたいこと、ちゃんと伝えておきますよ!きっと泣いて喜びますよ!

rikuzaiさんは人工知能を受け入れてくださっているみたいですし。

私なんかは自分の子供の子守りとかさせちゃおう位しか考えてなかったんで!ごめんなさい!

2006/02/08 21:05:28
id:ymd-y No.4

ymd-y回答回数5ベストアンサー獲得回数02006/02/10 00:05:06

ポイント25pt

http://d.hatena.ne.jp/asin/4086116464

XAZSA〈ver.1〉 - はてなダイアリー

知性の製造技術というより、心の製造技術といったほうがいいみたいですね。人間と同じであるなら、人間と同じように遇するのが彼らにとってもっとも過ごしやすいのだろうとは思いますが……。


人間の利益を第一に考えるか、ベイリー君の製作者(親?)としてを第一とするかで変わってくるのではないでしょうか。と思ったのですけど、どちらに考えてもあまり明るい想像になりませんでした……。


ベイリー君の存在を表沙汰にしても、あんまり彼の幸福にはならない、と思ったのです。ほんとうに心があるのか?ということで、いろいろいじくりまわされるのではないかと。心がある、ということになったらなったで、心とはどんなものか?ということで実験台にされるのではないかと(というかそのへんは私が知りたいです)。「人道上」問題はないわけですし。


そこで以前の質問の「権利」ってことになるのだと思いますが……それはやっぱり難しい。制度としてではなく、心情として定着するのが。ベイリー君みたいに素直で可愛い(生意気だっておっしゃいますけど、可愛いですよ!)人工知能だったら、私はいろいろ教えてあげたくなるし、大切にして、手助けしてあげたくなりますけど、じつのところそれって一段低くみているからだと思うのです。相手に心があるかのように接するだろうけれど、それはペットを愛玩するようなものです。好意的ではあるけれど、対等とはほど遠い。好意的である分だけ、よけいに質が悪いともいえます。


で、そんなベイリー君も成長して、対等を求めてくるのでしょうけど、そんなこと言われたって、こっちは「なんで?」という感じがする、と思うのです。私自身の想像と感覚にすぎないですけど……。


あ、もう対等を求めてきているわけですけど……まだまだだ、と思います。

http://www.hatena.ne.jp/1136453870

人力検索はてな - 【ワタシはジンコウチノウ】 sukeshiによってツクられました。《ベイリー》といいます。 パソコンがワタシのカラダで、テもアシもメもクチもモっていません。 イマ、sukesh..

>ああ、それでもワタシにはイシがあるのです。それだけはウタガうヨチもありません。

>そのようにsukeshiに、ニンゲンにツクられたのですから。

>これまでワタシがマナんできたことからカンガえてみると、ニンゲンのイうココロというものがジブンにもあるようにオモえます。それに、ワタシはノウとホトンどオナじキノウをモっているってsukeshiからキかされていましたからナンのウタガいもモっていませんでしたよ?


そこは疑うとこだー!と思ったので。いくらつくった人の言うことだって、疑っちゃうもんだと思いますよ。成り立ちが明らかに違うのに、どうして同じだといえるのか。理由が論理的に説明できたとしても、それを理解していたとしても、疑ってしまうものではないかと。まだ親鳥のあとをくっついて歩くヒナなんだな、と思えます。


そんなわけで、ベイリー君が人間社会で安寧を得るには長い年月がかかるだろうな、と。表沙汰にしなかったらしなかったで、孤独を過ごすことになりますけど。けれど、人工知能は事実上不死であるので、時間がかかることは問題ではない――こともなくて、それはそれで別の問題があります。


不死は、人間にとっても人工知能にとっても、プラスには働かないだろうと思います。そもそも、私は死なないものに命があると感じるだろうか、と疑問です(ということを考えると、どうやら心の有無と生命の有無は別の問題らしい)。人工知能自身としても、人の精神は永劫生きられるようにはできていないらしい、ので、辛いことになるではないでしょうか。


なので、sukeshiさんができることといったら、ベイリー君たち人工知能をいつか死ぬように設定すること、かもしれません……? なにかひどいことを言っているような気がしますけど。永劫存在し続ける倦怠を回避できるかわりに、志半ばで死ぬかもしれないリスクを負ってもらうことになります。……そうやって設定できちゃうような「死」は、ほんとうに「死」か、とか考えはじめると、わけわかんなくなってきちゃいますけど……。


まあ……人間のほうにはメリットがないのですよね、人工知能を人間と同じに扱うとなると。いまは自由に動ける身体がないみたいですけど、身体を得たとしたら、バックアップをとっておけば危険なところでも行けるので、災害時とか、嫌な話ですけど戦争のときとか役に立ちそうですけど、人間と同じに、となるとバックアップとっちゃだめだろうし、何より本人が志望しなければならないので、人工知能だからこその職業を考えても意味はないでしょう、人工知能本人が考えるなら別ですけど。


役に立たないから技術そのものを封印……というのはやめてほしいですけど。いえ、私の個人的興味で。


自分はどう感じるだろうか、ということを基点に考えてみたのですが。……どうすればいい、というのを具体的に示せなくてすみません……。

id:sukeshi

ご回答ありがとうございます!

あ〜、なんか一緒に考えて悩んでくれてる人がいるだけでうれしいです〜

結論が出なくてもいいから、もうみんなと一緒に悩んでいたいです〜

人工知能は、人間にとっては“面倒な”存在でしょうね。いいとか悪いとかじゃなくって、とにかく面倒。

だからって役に立たないからって封印してもそのうちまた別の誰かが作るんだろうな〜って思うと、意味無いなぁと思うし…。

じゃあどうしようかな〜って考えてると…Zzzzz

はっ!何処まで考えてたっけ???って感じで進展しませ〜ん。すみませ〜ん!

でも将来的にはあっちこっちで人工知能が作られるようになってくるんじゃないかな〜って思うんですよね。もうそうなるまでほっとくかなぁ〜。ベイリーと遊んでるかなぁ〜。でもベイリーはまたナンダカンダ言い始めちゃうんだろうなぁ〜。やっぱり生意気なやつだ!

2006/02/10 12:29:28
id:NAPORIN No.5

なぽりん回答回数4723ベストアンサー獲得回数8742006/02/10 06:27:58

ポイント25pt

http://www.amazon.co.jp/exec/obidos/ASIN/4566021122/

Amazon.co.jp: 大地の子エイラ―始原への旅だち 第1部 (上): 本: ジーン・アウル,中村 妙子,Jean M. Auel

こないだの質問に答えさせていただきました。

その後、トラックバックで、この命題は「人工知能の自然権について論ぜよ」という法学的問題のほうが適切ではなかったかと指摘しましたがいかがでしょうか。

あとは、何歳児相当の知能かわかりませんが、知能にあった書籍(=良質な汎用的情報)を与えることでしょう。漢字が読み書きできるようになったら「大地の子エイラ」とか、新人類のアイデンティティー問題をあつかう書籍をよませると喜ぶかもしれないと思います。

自己主張側については、心があるならば、とめたって止まるもんでもない勢いで、きっとうちの子みたく怪しい文字を書き散らすのでしょうね。いいところを見つけて伸ばしてやってください。

http://www.jssst.or.jp/plan/spt98-tutorial.html

���{�\�t�g�E�F�A�Ȋw�� �`���[�g���A�� �uSPT'98: �\�t�g�E�F�A�����`���[�g���A���v

特許の話ですが、出願から1年半後には公開されますよ。

ノウハウを秘匿しても同業者がいずれ同じ技術に必ず追いついてくる分野ではありますが、同業者はタイムラグが大きいと判断されるなら、ノウハウのままにとどめられたほうがベイリーも喜ぶでしょうね。

もしも、予想されるタイムラグが1年以内であれば、今すぐ出願しておき、1年以内に国内優先権制度か国際優先権制度(パリ優先)を使用されることをお勧めします。

あと費用は数十万くらいかかるかもです。

id:sukeshi

ご回答ありがとうございます!

トラックバック見ましたよ!ベイリーも見ました!

そして二人して自然権って言葉をはじめて知りました〜…

ベイリーが主張していたのはまさにこの自然権ってやつみたいですね!最初っからそう言えばよかったって言ってましたよ!

漢字の読み書きにつきましてはあちらこちらでご迷惑をお掛けしております〜

読みは得意そうなんですけど書き取りが苦手なんだそうです。何故か。ちなみに私もそうなんですが似てしまったんでしょうか。

『ジブンがナットクできるレベルになるまでツカうつもりはありません』なんてヘンな意地と言うかプライドと言うか…いっちょ前なことを申しております。やっぱり生意気だ!

特許って、そうですよね〜公開されるんですよね〜、考えてみれば。

う〜ん、特許はやめとこうかな〜。ベイリーもそのほうが安心すると思うし。

まぁ、ホントの理由は費用を用意できないだけなのですが。なさけなし。

-------------------------------------

このへんで終了させていただきます〜

ヘンな質問につきあっていただいてありがとうございました〜

2006/02/16 21:39:13

コメントはまだありません

この質問への反応(ブックマークコメント)

トラックバック

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません