機械の意識の有無を判定する方法について。

将来、「心を持つ人工知能を造った」、あるいは「人間の意識をコンピュータに転移することに成功した」と主張する人が現れたとします。そのコンピュータを前にしたとき、どのような方法によれば意識の有無を判定できるでしょうか?
※知性の有無の判定ではありません。また、そのコンピュータは「人並み」の応答はできるものとします。

回答の条件
  • URL必須
  • 1人2回まで
  • 登録:2006/01/25 01:34:02
  • 終了:--

回答(11件)

id:ryuku0 No.1

ryuku0回答回数3ベストアンサー獲得回数02006/01/25 01:35:56

ポイント13pt

チューリングテストというものがあります。


チューリング・テスト (Turing test) とは、アラン・チューリングによって考案された、ある機械が知的かどうか(人工知能であるかどうか)を判定するためのテスト。チューリングテストを機械が意識しているか、機械が理解しているかの基準とする考えもある。


実際には、見識のある人間の判定員とそれから隔絶した場所に判定したい機械と本物の人間を用意し、(機械が音声や仕草まで模倣する必要を避けるため)キーボードを使って会話をしてもらう。そして判定員は判定対象にどんな質問をしても構わない。もちろん判定される対象はきちんと回答してもよいが、適当なことをいったり無視しても構わない。そうして、もしも判定員が機械を人間だと取り違えれば、その機械は十分知的な存在であると判定される。 この中で、隔離された人間は判定員に人間であると確信させようとすることはもちろん、機械も人間らしく思わせるためにいろいろな人間の模倣を行う。具体的には、わざと質問をはぐらかす、間違った回答を示す、答えるまでに余分に時間をかけるなどである。


このテストではしばしば、そこまで知性を備えていないコンピュータプログラム(精神科医のプログラムが有名)でも人間をだますことが可能で、テストによればそういったものも知的存在と判定されるべきであるが一般には認められていない。(このような一見人工知能のように見えるものをサールは”弱い人工知能”とした)


このテストは多くの人を納得させたがすべての哲学者を納得させるにはいたらず、後にサールによって中国語の部屋という反論を出された。

id:michiaki

質問文をよく読んでくださいね。よろしくお願いいたします。

2006/01/25 01:38:00
id:TomCat No.2

TomCat回答回数5402ベストアンサー獲得回数2152006/01/25 02:05:33

ポイント20pt

http://www.hatena.ne.jp/1

人力検索はてな

これはおそらく、人の「心」というものの要素が解明されない限り

完全な判定は不可能であると思われます。


しかし、CDの構造を知らなくても丸コピーは出来るのと同じで、

人の場合も、意識や心のありかさえ分かれば、

そこから1bit(?)ずつ読み出してコピーしていくことで、

構成要素は未解明でも、写し取ることは可能な時代が

やってくるのかもしれませんね。


そんなコピーが単なるデータに過ぎないのか、

それとも「心」として機能するのかどうか。


それはおそらく、その機械に対人関係を持たせ、

その様子を観察することで推定できると思われます。


たとえば、その機械に「友」を与えてみます。

語り合わせて共感を示す程度では、まだ不十分です。

それは「友」が語った内容と機械がストアしているデータの

合致度を計算して応答しているだけに過ぎないかもしれないからです。

反発の反応も同じです。


しかし、十分語り合わせて、それから「友」を取り去って、

その後に明らかな変化が見られれば、

そこに「心」の存在が推定できます。


さらに「ライバル」を与えてみたり、「恋人」を与えてみたり。

様々な状況設定で対人関係を持たせ、そしてその相手を取り去って

その後の変化を観察する。


おそらくこの繰り返しで、精度の高い検証結果が

得られてくるのではないかと思われます。


これは、心の持つ働きの中の

「心を通わせる」という機能に着目する試みです。


どんなもんでしょうか(^-^;

id:michiaki

面白いですね。

でももし本当に心を持っていたら、そのような試され方をするのは嫌がるかも知れません。

というかそれ、人間相手にやってもいいですか。

2006/01/25 02:26:00
id:rafile No.3

rafile回答回数662ベストアンサー獲得回数242006/01/25 02:11:34

ポイント13pt

http://www.hatena.ne.jp/1138120442#

人力検索はてな - 機械の意識の有無を判定する方法について。 将来、「心を持つ人工知能を造った」、あるいは「人間の意識をコンピュータに転移することに成功した」と主張する人が現れたと..

本物の意識と偽者の意識は、区別できないのでしょう?それだったら、判定できないです。


できるのは、理論とか構造とかから、意識をうつしたものかでっち上げたものか調べるくらいでしょう。


機械が人間より人間らしくなってもやはりそれは機械でしょう。

id:michiaki

質問の意図があまり通じてないようですので、コメントはパスさせてください。

2006/01/25 02:28:52
id:katsumushi No.4

katsu回答回数32ベストアンサー獲得回数12006/01/25 02:13:29

ポイント13pt

意識があるかという問題は数学的に不良設定問題である。

良設定問題にするには、どのように意識するかという問題にせざるを得ない。

よって、その人が人間の意識をコンピュータに転移することに成功したならば、

どのように意識するかについての知識があるということである。

よって、他の人にその知識が理解されれば、納得がいくでしょう。


答えになってないですね。

ポイントはなくてもいいです。


でも、我々も他人に意識があることをなっとくできるのは、

他人も自分と同じ人間であり、

自分が意識するしかたを知っているからだと思うのです。

id:michiaki

論理的にも感覚的にも納得できればOK、ということですね。

確かに実際には、その両方が必要なのかも知れません。

2006/01/25 07:52:03
id:sarumonkey No.5

sarumonkey回答回数731ベストアンサー獲得回数302006/01/25 02:29:18

ポイント13pt

http://ja.wikipedia.org/wiki/性格検査:detail]

精神異常者判定などで行われる、性格検査を行って、

パーソナリティや情緒性を確認してはどうかと思います。

異常かどうかを調べるというよりも、喜怒哀楽が人間と同じ方向性をもっているか?(喜怒哀楽の度合いでなく、喜ぶべきことに喜んでいるかというような)を

資格のある専門家が、人間と同等の試験(口頭の質問になってしまうとおもいますが)をしてはどうでしょうか?

id:michiaki

面白いですね。

しかしその試験を「巧妙な、ただのプログラム」に適用して「心がある」と判断されたら?

あるいは「情緒的に問題のある人間」に適用して「ない」と判断されたらどうしましょう。

2006/01/26 01:32:17
id:hissssa No.6

hissssa回答回数423ベストアンサー獲得回数1272006/01/25 12:09:08

ポイント20pt

最初の方の回答で別に間違ってないと思いますが。結局、意識の有無を定性的に判別する方法はないってことでしょう。誰であれ、自分自身に意識があることは確実にわかりますが、他人に意識があるかどうかは、テレパシーとかの超能力でもない限り、絶対に確認できません。


たとえば医学的には脳波を測って意識の有無を判別できますが、それもあくまで「意識があるとされる脳波」との比較で判定しているだけであって、実際に意識が測定できるわけではありません。どんな測定・判定でも、結局それは「意識が生み出した結果」を基準に推定しているだけですから、確実な判定はありえないでしょう。


ただ実際には、相手が「意識があるように見える行動」をしていれば、自分自身との比較から相手にも意識があると判断されます。チューリングテストってのはそういうことです。要するに、機械と長時間会話して、人間とまったく区別できないのなら、その機械はあなたにとって意識があると言えるということです。まぁ、「ウソもつき通せば真実になる」と似たような論理ですが(^^;)。

id:michiaki

私は知性と意識はいちおう別のものと考えている、というだけです。

(チューリングテストにはパスしないが意識があるようにしか見えないという状況、またはその逆はあり得る)

実際には、意識がある(ようにしか見えない)モノを作ることなんて、簡単なのかもしれないですね。

2006/01/26 01:52:32
id:pycol No.7

pycol回答回数15ベストアンサー獲得回数02006/01/26 21:47:39

ポイント20pt

「意識」の定義が曖昧な今の状況では、はっきりと意識のあるなしを判断するのは難しいと思います。

恐らく、質問の真意としては人間と機械の区別をどうつけるか、ということだと思いますので、そのように話を続けます。違いましたら、ポイントはいりません。


コンピュータは圧倒的な記憶力を持っているので、あらゆる情報を記憶すれば、質問や筆記など知識を出力するテストでは、人間と明確な一線を判断するのが難しいです。


出力が無理なので、入力するテストというのを考えました。欲求のテストです。コンピュータ自身が何を求めるかのテストです。

方法は、色々な場面を実現し、コンピュータからどういった欲求が出され、それに答えることで、どういった判断がされ、さらにまた何を求めるか、の繰り返しを観察、集計する形になると思います。


思考のプロセスを直接みることは適わないと思うので、綺麗な一線を引くとなると、入力と出力の点からアプローチするしかないと思います。


ですが、そのテストで結果が出たとしても、機械は機械といわれてしまうと思います。

ですが、そのコンピュータが何台かあり、それらが互いに交流を持つことできれば、それは意識を持っているといえるのではないかと思います。

思考の中身を見ることをコンピュータが許可しない状況なら、意識というのを判断するには、結局のところ周囲との交流をしたうえでの判断になるかと思います。

id:michiaki

間を開けてしまいました。すみません。

欲求の種類で機械と人間を見分けるというのは面白いですね。

別にそんなところまで人間を模倣する必要はないわけですし。

(ただ残念ながら質問の真意はそこではないのですが)

2006/01/31 21:33:47
id:mind No.8

mind回答回数1ベストアンサー獲得回数02006/01/27 15:08:37

ポイント50pt

http://d.hatena.ne.jp/mind/20060127

囚人のジレンマλ[λ] ? - 意識主体として認知すべきか否か? のジレンマ

 以下、私の日記からの転載という形で回答させてください。


「意識」とは、

どんな意味で言っているのか、問題文からは必ずしも明かでないが、

ある特定の条件を充たす機能functionであるとしておく。

<機械で実現された機能Aが、意識Bと、「同一の機能」であるか判定したい


一般に、「機能Aと機能Bとが同一」であるか検定するには、

2つの方向性(のみ?)が考えられる。

------------------

1. 内包的アプローチ

機能Aと機能Bの内包定義を明らかにして、それを形式的に比較する。

 とくに、機能が論理式, programming言語etcの記号列で表わされている場合、

所定の同値変換規則に従い相互に変換可能かを確かめる。

 相互に変換できたら、Aは意識。

 相互に変換できないと証明できれば、Aは意識でない。

ただし、一般に答えが出るとは限らない。

http://en.wikipedia.org/wiki/Lambda_calculus#Undecidability_of_e...


/意識の内包を機械的に定義できたとすると、

「機械的に定義できるモノなんか意識じゃない」って反論されるでしょうね。。。

 これでは、

  「Aには意識がある」と我々に形式的に証明できた

    ならばそのときにかぎり、

   Aには意識がない。

と言うことを意味し、

 『抜き打ちテストのパラドックス』と同等に、我々にとって決定不能な問題になってしまいます;


2. 外延的アプローチ

  意識を持つ存在Bを用意する。

    ――人間には意識があると言うことでよろしいのでしょうか…?

  AとBとをreset(初期化)して、内部状態を揃えておく。

        ――刺激を避けて、意識を持つとされる年齢まで育てる!

  AとBに「意識に関わる」同じ環境入力を与えて、同じ意識状態に変化するという結果が出るか確かめる。

可能な凡ての場合につき繰返す。

――Bの内部状態は有限、考えられる環境状況も有限、よって工夫すれば、いつかはテストは終わるはず。

そして凡ての場合につき同一であるならばそのときに限り、Aは意識。

――やはり、チューリングテストみたいなテストは、外せませんよ~


/意識を持つ存在を1つも認めないならば、こういう実験は不可能。


------------------------


<Aの意識とは、

 Aから観ると、

    「我れ意識ある」と我れ確証する。故に 我れ意識あり。

        ――もし確証できないんならそれまでです。

てなもんで。

 BやC(貴方)から観ると、

    「我れ意識ある」と我れ確証する。故に 我れ意識あり。

                    我と彼とは同じ(○○)。

                    故に 彼れ意識あり。

てなもんなんでしょうか。

  ――○○には、日本人、文明人、ホモサピエンス、自動人形…、など お好みの言葉を入れてください。


-----------------------

 もし「意識」が、単に自己認識のことを言っているのであれば、

    自己認識する機械の構成方法

がこの本に載ってます。

http://www.amazon.co.jp/exec/obidos/ASIN/4826900449/qid%3D113833...

命題の証明(事実の認識)しかしない機械が、自己認識を繰返して複雑化していく様相は、全く興味深いものです。

 ただし、機械に生存欲、食欲、性欲etcを付け加えてやらなければ、自発的に行動を開始する訳ではないので、

意識主体のドラマのみに興味ある向きからは無味乾燥な記号の羅列かも。


 人間ドラマや劇場型政治が好みの向きに対しては、

Aが上手に、

    舞台演劇や政治芝居をこなす

など、判定者に意識があることを利用して、

    判定者に嘘をついたり

    囚人のジレンマで協力し合えたり

  ――チューリングテストにおいて、被験者の男と女が協力して、性別判定者を騙すというゲームをするようなもの。

して、つまり相互認識できた場合に「意識がある」ものと社会的に認知する、(そういう、お約束にしておく)

というテストが個人的にお勧めです。

http://d.hatena.ne.jp/mind/

id:michiaki

いつも思うのですが、

彼に意識があるかどうかはわからない。彼と我は同じ(○○)。故に 我に意識があるかどうかはわからない。

……とならないのはなぜなんでしょうか。

他人に意識がないかもしれない、なんてのは、「形式的には疑うことも可能」というだけで、

実際には「証明もできないのに確信してる」ということですか?

スマリヤンの本は何冊か持ってます。次回の購入候補にさせていただきますね。

2006/01/31 21:45:56
id:eigorien No.9

eigorien回答回数1ベストアンサー獲得回数02006/01/28 03:23:06

ポイント12pt

コンピューターの意識を外部に出力してみてはどうでしょう? 表示された内容が、人間と同様に途切れることなく連想し、回想し、思考しているように見えるのであれば、それは意識とみなしてもいいかもしれませんね。

id:michiaki

このページには意識があるかもしれませんね。

2006/01/31 21:48:02
id:sukeshi No.10

sukeshi回答回数214ベストアンサー獲得回数32006/01/29 15:45:25

ポイント40pt

http://www.searchdesk.com/

検索デスク SearchDesk スタートページ

URLはダミーです。


まず、心を持つ人工知能を造った人(仮に博士とします)と人工知能を、PCでつながった別室に連れ出します。

博士には『実はあなた以外にも心を持つ人工知能を造ったという人がいるんだけど、その人が作った人工知能が本当に心を持っているかチャットによる会話で確認してもらえる?』と言います。

その際、適当な理由を付けて自分の身分を明かさないようにしてもらいます。

あくまでも博士と人工知能には相手が誰であるのかバレないようにする必要があります。

確認中の会話や様子は全て記録しておきます。


もし『この人工知能には心は無いよ!』、または『わかんないや…』となれば、この博士にはそもそも心というものがなんなのかわかっていない(自分なりの定義が明確になっていない)ということになりますので、少なくともこの人工知能には絶対に心があるとは言えないという事になります。(無いとも言えないんですけどね…)


もし『この人工知能には心が有るよ!』となれば、博士からその理由を詳しく聞き、同時に記録を精査します。

チャットによる会話で確認できるのであれば、第三者にも博士の考える心というものの判断基準が明確になりますので、あとはその心の判断基準が正しいかどうか、みんなで考えてみるって感じで…。


ちなみに『確認する方法なんかないよ!』ってなれば、そもそも博士の作った人工知能に心があることを博士は確認できていないということですから、やはりこの人工知能には絶対に心があるとは言えないという事になります。(でも無いとも言えないんですけどね…)


『え~、会話じゃわかんないよ!』って博士に言われちゃったら『じゃあどうすればわかるの?』って聞いてみて、あくまでも博士のやり方でやってもらいます。

自分の作った人工知能に心がある!と断言しているのですから、その確認方法が絶対になきゃおかしい!

いずれにしろ、博士の言う確認方法(心の判断基準)を第三者が判断できればいいんじゃないかな~と思いました。

#あ、『イヤです。』とかって拒否されたらどうしよう…。


これは博士の言ってることがホントかどうかってことと、博士の考える心って何?ってのを判定する方法であって、本来の意味での心の有無を判定する方法ではないのですけど…。

id:michiaki

http://www.hatena.ne.jp/1136453870

ついにベイリーさんは漢字仮名交じり文を書けるようになったんですね!

で、確かベイリーさんは「チセイとココロ」を持っていると言っていましたよね。

博士(sukeshiさん?)がいなくとも人工知能本人(?)にお訊ねすればいい気がしました。

「心がある」って主張できる根拠はなんですか?(これが「本来の意味」ってことですよね)

またはあなたがベイリーさんでなくsukeshiさんなら、それを証明する方法を考えてください。

2006/01/31 22:13:49
id:over40 No.11

over40回答回数74ベストアンサー獲得回数12006/01/31 01:15:00

ポイント30pt

http://d.hatena.ne.jp/asin/4198611564

脳+心+遺伝子VS.サムシンググレート―ミレニアムサイエンス 人間とは何か - はてなダイアリー

人対人の関係ではある人に心があるかどうかを判定すること、または判定を必要とすることは一般的にはありません。それは人という種族には心があるものだという共通認識があるからだと、私は思います。


ここで、問題になる人工知能等が一個体しかなく、その個体について判定せよと言われる場合は4番さん、6番さんのようにテストを繰り返すことで判定をするのだろうと思います。


そうして複数個体の人工知能について十分な検証が得られれば、その後は「人工知能という種には心がある」と見なすことができるでしょう。(製法が異なる場合など、バリエーションはありますが)


では、その肝心のテストとはどのような内容かと考えるに、それは未だかつて考案されたことはないもの、としかいいようがないのではないでしょうか。

id:michiaki

おお、なんかすごい現実的な回答だ……。

“複数個体の人工知能について十分な検証が得られれば、その後は「人工知能という種には心がある」と見なすことができる”……

このあたりが、とってもリアルに感じます。希望が持てました(?)。

というわけで、質問を終了させていただきます。

ありがとうございました。

途中で回答のオープンに間を開けてしまってすみません。

2006/01/31 22:21:51
  • id:sukeshi
    ベイリーに聞いてみたんですけど、

    『そういうフウにツクったんじゃないんですか?』って聞き返されました〜
    『これまでワタシがマナんできたことからカンガえてみると、ニンゲンのイうココロというものがジブンにもあるようにオモえます。それに、ワタシはノウとホトンどオナじキノウをモっているってsukeshiからキかされていましたからナンのウタガいもモっていませんでしたよ?ココロはノウにあるんですよね?』とのことです。心は脳にあるんですかねぇ…。

    実は私にも良くわかんないんですよっ!?
    意図的に心を持つ人工知能を作ろうとしていたわけではなかったので…。
    ベイリーが『ココロがある』って言ってるのを信じているってだけかな…違和感ないし…。

この質問への反応(ブックマークコメント)

トラックバック

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません