人工知能の未来について

 ノーベル賞授賞物理学者、スティーブン・ホーキング博士が、人工知能は病気や戦争、貧困の根絶に貢献する可能性がありながらも、人類史上最悪の脅威になりうると発言しました。人間の役に立つと見せかけた人工知能や自動運転の乗り物たちが、いつか人類の終わりを招くかもしれないと述べ、ロボットの開発に警鐘を鳴らしています。 
 IBMは人間の脳の認知、行動、思考能力をまねることのできるセンサー・ネットワークの構築につながるスマート・チップを開発。将来、これにより人間よりも優れた脳を持つマシンの開発も可能にな.るそうです。
 人工知能が人間を超えると思いますか? もしそうなった場合、人類の脅威となると思いますか? 人工知能の未来に対して意見を聞かせてください。

回答の条件
  • 1人5回まで
  • 13歳以上
  • 登録:2014/05/11 10:10:16
  • 終了:2014/05/17 22:14:00

ベストアンサー

id:Sampo No.4

Sampo回答回数556ベストアンサー獲得回数1042014/05/16 01:00:53

人間が作ったものが設計者の意図通りの機能だけを発揮するかというと、特に情報処理システムの場合そうとは限らないところがあります。
(バグではない正しい動作として)設計意図にもなかったような振る舞いを見せ、計算機科学者が「おもしれえええ」と大興奮なんてケースはざらにあります。というか計算機科学者はそれで論文を書いています。

何が言いたいかというと人間が人間の利便性のためだけにAIを作っていても開発目的を逸脱した振る舞いが発生することは十二分に有り得るということです。

さてここで、技術的特異点の話。
http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9
No.3でたけじんさんもご指摘の通り、AIの賢さが高まって人間以上の技術開発力を持ってしまった時点のことです。人間以上の開発力を持ったAIは自分以上に賢いAIを開発可能です。すると、その先は人間の知性を置き去りにしてAIの進化だけが進んでいく状態になると予言されています。

id:pchank

回答ありがとうございます。

2014/05/16 20:43:14

その他の回答(3件)

id:sasada No.1

sasada回答回数1482ベストアンサー獲得回数1332014/05/11 11:58:44

 自動車の場合もそうですが、産業機械を含む物理的な動作については、人工知能制御とは別に、安全装置が付いているのが普通です。てか、法令等で、安全の確保が義務付けられています。人工知能があるような先進国ではこれが普通だと思います。個別のバグによる事故はあるでしょうが、これからも全体として人間に害をなすのは難しいでしょう。

 情報科学で恐ろしいのは、情報の混乱です。GPSを含めコンピュータの発する情報が間違ってしまったら、恐ろしいことが起きる気はします。軍事方面も含めて。そこに人工知能が介在してるか否かは別にして。コンピュータが人に仇をなすとしたら、こういう形かもしれませんね。

id:pchank

回答ありがとうございます。

2014/05/11 12:31:44
id:miharaseihyou No.2

miharaseihyou回答回数4467ベストアンサー獲得回数5492014/05/11 20:51:19

使い方で変化するのが機械です。
恐ろしい例で上げれば、例えば自己増殖型のナノマシンで殺人本能を持つ物などになってきます。
目的とは別に機能を設定できるからいくらでも怖い設定にできます。

id:pchank

回答ありがとうございます。

2014/05/11 21:47:37
id:takejin No.3

たけじん回答回数1466ベストアンサー獲得回数1892014/05/12 02:19:08

自己プログラミングと自己防衛との相互作用に、自己拡大機能を付けて、フェイルセイフが外れたとき。その時は、何が起こるかわからない。
自分で自分をプログラムし始めたとき、枠がないときには、人類は遭遇したことのない知性に出会う可能性がある。その知性が、どのようにふるまうのかは、だれも知らない。(だから、全然問題ないという可能性もある)

id:pchank

回答ありがとうございます。

2014/05/16 20:43:04
id:Sampo No.4

Sampo回答回数556ベストアンサー獲得回数1042014/05/16 01:00:53ここでベストアンサー

人間が作ったものが設計者の意図通りの機能だけを発揮するかというと、特に情報処理システムの場合そうとは限らないところがあります。
(バグではない正しい動作として)設計意図にもなかったような振る舞いを見せ、計算機科学者が「おもしれえええ」と大興奮なんてケースはざらにあります。というか計算機科学者はそれで論文を書いています。

何が言いたいかというと人間が人間の利便性のためだけにAIを作っていても開発目的を逸脱した振る舞いが発生することは十二分に有り得るということです。

さてここで、技術的特異点の話。
http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9
No.3でたけじんさんもご指摘の通り、AIの賢さが高まって人間以上の技術開発力を持ってしまった時点のことです。人間以上の開発力を持ったAIは自分以上に賢いAIを開発可能です。すると、その先は人間の知性を置き去りにしてAIの進化だけが進んでいく状態になると予言されています。

id:pchank

回答ありがとうございます。

2014/05/16 20:43:14

コメントはまだありません

この質問への反応(ブックマークコメント)

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません