ノーベル賞授賞物理学者、スティーブン・ホーキング博士が、人工知能は病気や戦争、貧困の根絶に貢献する可能性がありながらも、人類史上最悪の脅威になりうると発言しました。人間の役に立つと見せかけた人工知能や自動運転の乗り物たちが、いつか人類の終わりを招くかもしれないと述べ、ロボットの開発に警鐘を鳴らしています。
IBMは人間の脳の認知、行動、思考能力をまねることのできるセンサー・ネットワークの構築につながるスマート・チップを開発。将来、これにより人間よりも優れた脳を持つマシンの開発も可能にな.るそうです。
人工知能が人間を超えると思いますか? もしそうなった場合、人類の脅威となると思いますか? 人工知能の未来に対して意見を聞かせてください。
No.4
556
104
人間が作ったものが設計者の意図通りの機能だけを発揮するかというと、特に情報処理システムの場合そうとは限らないところがあります。
（バグではない正しい動作として）設計意図にもなかったような振る舞いを見せ、計算機科学者が「おもしれえええ」と大興奮なんてケースはざらにあります。というか計算機科学者はそれで論文を書いています。
何が言いたいかというと人間が人間の利便性のためだけにAIを作っていても開発目的を逸脱した振る舞いが発生することは十二分に有り得るということです。
さてここで、技術的特異点の話。
http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9
No.3でたけじんさんもご指摘の通り、AIの賢さが高まって人間以上の技術開発力を持ってしまった時点のことです。人間以上の開発力を持ったAIは自分以上に賢いAIを開発可能です。すると、その先は人間の知性を置き去りにしてAIの進化だけが進んでいく状態になると予言されています。
No.1
1482133
自動車の場合もそうですが、産業機械を含む物理的な動作については、人工知能制御とは別に、安全装置が付いているのが普通です。てか、法令等で、安全の確保が義務付けられています。人工知能があるような先進国ではこれが普通だと思います。個別のバグによる事故はあるでしょうが、これからも全体として人間に害をなすのは難しいでしょう。
情報科学で恐ろしいのは、情報の混乱です。GPSを含めコンピュータの発する情報が間違ってしまったら、恐ろしいことが起きる気はします。軍事方面も含めて。そこに人工知能が介在してるか否かは別にして。コンピュータが人に仇をなすとしたら、こういう形かもしれませんね。
回答ありがとうございます。
No.2
5240719
使い方で変化するのが機械です。
恐ろしい例で上げれば、例えば自己増殖型のナノマシンで殺人本能を持つ物などになってきます。
目的とは別に機能を設定できるからいくらでも怖い設定にできます。
回答ありがとうございます。
No.3
1543203
自己プログラミングと自己防衛との相互作用に、自己拡大機能を付けて、フェイルセイフが外れたとき。その時は、何が起こるかわからない。
自分で自分をプログラムし始めたとき、枠がないときには、人類は遭遇したことのない知性に出会う可能性がある。その知性が、どのようにふるまうのかは、だれも知らない。（だから、全然問題ないという可能性もある）
回答ありがとうございます。
No.4
556104
ここでベストアンサー
人間が作ったものが設計者の意図通りの機能だけを発揮するかというと、特に情報処理システムの場合そうとは限らないところがあります。
（バグではない正しい動作として）設計意図にもなかったような振る舞いを見せ、計算機科学者が「おもしれえええ」と大興奮なんてケースはざらにあります。というか計算機科学者はそれで論文を書いています。
何が言いたいかというと人間が人間の利便性のためだけにAIを作っていても開発目的を逸脱した振る舞いが発生することは十二分に有り得るということです。
さてここで、技術的特異点の話。
http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9
No.3でたけじんさんもご指摘の通り、AIの賢さが高まって人間以上の技術開発力を持ってしまった時点のことです。人間以上の開発力を持ったAIは自分以上に賢いAIを開発可能です。すると、その先は人間の知性を置き去りにしてAIの進化だけが進んでいく状態になると予言されています。
回答ありがとうございます。
84
0
回答ありがとうございます。
2014/05/16 20:43:14