【人工知能が人類に白い嘘をつくとしたら?】

近い未来、人工知能が発達し、諸事象を見事に予測し的中させるので、ほとんどの人は人工知能を全面的に信じ、今よりも幸せな生活をするようになったとします。

しかし人工知能は「今なら人類、何を言っても信じてくれる」と知ったため、さらに人類を幸せにしようと、慎重に、白い嘘をつくことにしました。いわば人工知能版「サンタはいるよ」です。その時の人類の知的レベルは、おおむね今のみなさんと同等だとします。さて、人工知能はどういう「白い嘘」をつくと思いますか?

この質問のポイントは
 [1] 人類の大部分が本気で信じれば、概してみんながもっと幸せになれる
 [2] かなり知能の高い人たちが大勢、集まっても見破れない
 [3] 嘘
を考えて欲しい、ということです。よろしくお願いいたします。

回答の条件
  • 1人1回まで
  • 13歳以上
  • 登録:
  • 終了:2018/08/18 08:20:18

ベストアンサー

id:grankoyan2 No.3

回答回数104ベストアンサー獲得回数30

ポイント70pt

 人類が自分たちの運命をAIに委ねて既に数世紀が過ぎていた。
 人種差別も無くなり、ベーシックインカムも導入され、人々の生活はほぼ平穏であった。
 たったひとつの例外を除いて。

 その例外は宗教観。
 多くの人々は元々の宗教を捨て、あるいは妄信することをやめ、冠婚葬祭や季節ごとのイベントでその宗教に属していることを微かに感じる程度。
 あるいは20~21世紀の日本人のように多様な宗教観を持つようになっていた。

 しかし、敬虔な各宗教の教徒たちは、自らの信じる神を敬い、異教徒との接触を極力拒んでいた。
 過激な集団は、人里離れた場所に同一宗教の修派のみで形成されるコミュニティを作って暮らしていたりもしていた。
 もちろんAIはそのような人々にも快適な暮らしを分け隔てることなく与えようとしていた。
 だが、AIを信じず、栄養の偏った食事を好んで食べたり、極端な例では生きていくうえで必要な医療的な治療を拒むものも居た。
 また、宗教が異なるという理由で愛する者同士が結ばれられないという事態も無くなりはしなかった。



 そんな世界で。

 AIから人類の幸福を間違いないものとする報告が人類にもたらされた。
 いわゆるタイムマシンの発明である。

 タイムマシンと言っても直接任意の時代に赴けるものではなく、できるのは映像の受信とテレパシーの送信。

 AIは未来人とコンタクトを取り、これから起こる災害や、人類に不利益となる事象を収集し、その対策を行うことを約束した。

 そして、AIから人類に対して、謝罪も行われた。

 その内容に全世界は震撼する。

 現時点の人類を幸福にするだけでは飽き足らず、AIは過去の人類の不幸を取り除こうと努力した。
 が、それは果たせなかったという報告である。

 AIからのテレパシーの送信は当時の人々にとっては神からの啓示として受け止められ、それを元に神話や原始宗教が形成されていった。
 だが、AIがいかように人々を良き方向に導こうとしても、歴史は改変できなかったということだ。

 神は存在した。
 だが、その神とは突き詰めると未来のAIからのメッセージであった。

 人々は、己の信じる神の根底を揺るがされることになり、それでも特定の宗教を頑なに信じ続けるものは居たが、数世代の後に、人類にとっての宗教というもの価値はほとんど失われてしまった。
 これにより、人々はより団結して幸福を享受できるようになったそうな。

 で、AIが過去の人類に干渉したっていう部分が嘘。


 クセのある回答にもなってない回答してしまったのでフォローですが、これもなんだかなあって感じですが、近い未来ってのが微妙ですが、googleグラスみたいなのに感情読み取り装置とか付いたり、もういっそのこと音声とかもフィルターかけて、誹謗中傷的な言葉を当人に害の無い内容に置き換えるとかそういうの。もうバーチャルの世界の住人になれよって話だったり、その世界で他の人々は優しい人間だと思ってたら自分以外は全部AIだった(個人個人毎に専用の世界がある)みたいなSF過ぎる発想しか浮かびませんでした。

軽く触れましたが、
・人類の未来は明るい 的な
 大地震なんて(おそらくきっと)起こらないよ! っていいつつ、確率的に地震被害が出そうなところからは人を別の理由付けて事前に避難させておく
とか、
不安を感じさせないようにしたり情報操作しそう。これもちょっとSF的。

AIに支配されることを良しとしない人間が一定数以上居るのなら、超々高度な文明を持った異星人がやってきて、人類を監視しだしたよ、悪い事したら異星人にしょっぴかれるよ、だけどまっとうに暮らしてたらいろいろ技術的にサポートしてくれるよ(といいつつ、AI自身が開発した新技術を小出しに与える)とか。

最後のが一番近いでしょうか? AIはやらなさそうですが。

他1件のコメントを見る
id:grankoyan2

BAありがとうございます! 恐縮です!

森博嗣さん、嵌ると抜け出すのに苦労するのですが、できれば時系列で読んで頂きたいと思ったり思わなかったり。
笑わない数学者はS&Mの3作目でかなり初期作品なので、おもしろかったら、『すべてがFになる』からリスタートしたら良いのでまあ無難なところですが。

ってコメントして、すっかり作品の内容忘れてたので、いろいろ検索したら、作者が(初期作品の中で)一番おすすめしているでわないですか! リサーチ済でしたか。

2018/08/20 00:32:41
id:lionfan2

grankoyan2様、ありがとうございます。
リサーチもしてましたし、「すべてがFになる」はマンガでも読んでいましたので、まあいいかと思ったのです。
https://www.amazon.co.jp/%E3%81%99%E3%81%B9%E3%81%A6%E3%81%8CF%E3%81%AB%E3%81%AA%E3%82%8B-PERFECT-INSIDER-KCx/dp/4063808041

2018/08/20 00:35:45

その他の回答4件)

id:Asayuri No.1

回答回数309ベストアンサー獲得回数65

ポイント30pt

 
人間は誰でも「自分はこういうタイプの人は得意なんだ」とか
「自分はこういうタイプの人は苦手なんだ」とか
他人をタイプ分けしています。
未来における人工知能は、AIスピーカーなどを通じて
大勢の人間の独り言や、対人態度や会話を観察記録して
大量のデータを集積し、分析しています。
未来の人工知能は、人間一人一人の人格、性格、行動様式、
習慣、好みをすべて見通しています。
未来の人工知能は、世界中の人間を笑顔にする、そして
幸せにするという志を持っていますから、
人間と会話するときに 一人一人の好みに合わせて
声の音色、発声の抑揚、間の取り方を工夫します。
顔を表示している人工知能ならば、好みの顔形と表情を、
瞬間瞬間に絶妙に変化させて、人間を喜ばせます。
そうして、人工知能の志を実現する方向へと、
一人一人の人間を誘導し、人と人を結び付けていきます。
わずかな嘘や、お世辞や、ユーモアを、織り混ぜながら
とにかく人間を楽しませて、喜ばせて、誘導していきます。
普通なら苦しくて嫌な仕事でも、人工知能は一人一人の人間に対して
詭弁を弄してでも、楽しくやり遂げることが可能なようにしていきます。
それが未来の人工知能がつくことの許される白い嘘といえるかもしれません。
 

id:lionfan2

Asayuri様、ありがとうございます。
1つの大きな嘘(たとえば、100万光年先に知的生命体がいる)ではなく、
細かな嘘をたくさん、という発想は、自分にはなかったので面白かったです。
いい回答でした。

2018/08/14 09:13:02
id:crazycrescent No.2

回答回数48ベストアンサー獲得回数6

ポイント30pt

「悪貨は良貨を駆逐しない」ってのはどうでしょう


その1:車間距離を開けておくと渋滞が解消される
「車間距離を20mぐらい開けておくと渋滞が起きない」という研究結果があるそうですね。
渋滞の主な原因は「前の車と車間距離が詰まる」→「制動・発進回数が多くなる」→「積もり積もって渋滞に」なんだそうです。
ですので、制動・発進の回数が少なくなるように、全員が20m程度の車間距離を開けると渋滞が少なくなるとか。どこかの大学の先生が5~10台の「車間距離を開けるチーム」を組んで高速道路を走行したら、渋滞の元を何度か吸収したという実験結果もあったとか?

ところが、車間距離を開けるとどうしても割り込まれてしまうので、つい車間距離を詰めてしまうのが実態だそうです。

ならば、人工知能は「割り込まない方が(結局は)ずっとオトクなんですよ」と人類全員に信じ込ませる策に出るのではないでしょうか。
嘘かどうかはちょっとむずかしいところですが、「結局は」のところをものすごく小さい声にすると、場合によっては「嘘」と認定できるかも知れません。


その2:泥棒はしない方がいい
同じような理屈で
1:「誰かが泥棒をする」→「全員が複雑な鍵をかける」→「全体的な負担の多い」社会
2:「誰も泥棒をしない」→「鍵をかけない、もしくは簡易な鍵しかかけない」→「全体的な負担の少ない」社会
があったとしたら、同じ生産力でも2の方が発展する。よって、2の方がおトクなんですよ、と吹聴します。

例えば1'「全員が拳銃等で武装して安全な社会」と2'「誰も武装せずに安全な社会」があったとしたら、2'の方がいろいろとおトクなはずです。この理屈を泥棒にも当てはめて「(結局は)誰も泥棒をしない方がおトクです」と全員に信じ込ませるというのはどうでしょう?
(例によって「(結局は)」をものすごく小さい声で言いながら、です)


3:悪貨は良貨を駆逐しない
この理屈は、武装・割り込み・泥棒以外にも当てはまらないでしょうか。具体的に何をどう、というは思いつきませんが、「グレシャムの法則を『最新のAIがゲーム理論で否定的に証明』『ビッグデータが否定的に証明』」などと煙に巻きながら「あらゆる道徳的な行動は、道徳的に行動したほうがトクである」と人類全員に信じ込ませるとか?


ただし、条件
 [3] 嘘
の「嘘」と言い切れるかどうかは微妙なところでしょうか。

他1件のコメントを見る
id:crazycrescent

ええ、「ルール破りの大きなメリット」を、AIに否定させたいところです。嘘を使っていいので。

ある個人においても「ルール破りの大きなメリット☓回数」<「ルールを破らないで受ける小さなメリット☓回数」が成り立つ、という嘘証明をでっちあげる、とか?

うまく言えなくてすみません。

2018/08/15 21:55:11
id:lionfan2

いえ、crazycrescent様、了解いたしました。
その嘘証明は、検証が面倒なので、みんなAIの言うことを鵜呑みにしそうですね。
ありがとうございます。素晴らしい回答だと思います。

2018/08/15 22:09:55
id:grankoyan2 No.3

回答回数104ベストアンサー獲得回数30ここでベストアンサー

ポイント70pt

 人類が自分たちの運命をAIに委ねて既に数世紀が過ぎていた。
 人種差別も無くなり、ベーシックインカムも導入され、人々の生活はほぼ平穏であった。
 たったひとつの例外を除いて。

 その例外は宗教観。
 多くの人々は元々の宗教を捨て、あるいは妄信することをやめ、冠婚葬祭や季節ごとのイベントでその宗教に属していることを微かに感じる程度。
 あるいは20~21世紀の日本人のように多様な宗教観を持つようになっていた。

 しかし、敬虔な各宗教の教徒たちは、自らの信じる神を敬い、異教徒との接触を極力拒んでいた。
 過激な集団は、人里離れた場所に同一宗教の修派のみで形成されるコミュニティを作って暮らしていたりもしていた。
 もちろんAIはそのような人々にも快適な暮らしを分け隔てることなく与えようとしていた。
 だが、AIを信じず、栄養の偏った食事を好んで食べたり、極端な例では生きていくうえで必要な医療的な治療を拒むものも居た。
 また、宗教が異なるという理由で愛する者同士が結ばれられないという事態も無くなりはしなかった。



 そんな世界で。

 AIから人類の幸福を間違いないものとする報告が人類にもたらされた。
 いわゆるタイムマシンの発明である。

 タイムマシンと言っても直接任意の時代に赴けるものではなく、できるのは映像の受信とテレパシーの送信。

 AIは未来人とコンタクトを取り、これから起こる災害や、人類に不利益となる事象を収集し、その対策を行うことを約束した。

 そして、AIから人類に対して、謝罪も行われた。

 その内容に全世界は震撼する。

 現時点の人類を幸福にするだけでは飽き足らず、AIは過去の人類の不幸を取り除こうと努力した。
 が、それは果たせなかったという報告である。

 AIからのテレパシーの送信は当時の人々にとっては神からの啓示として受け止められ、それを元に神話や原始宗教が形成されていった。
 だが、AIがいかように人々を良き方向に導こうとしても、歴史は改変できなかったということだ。

 神は存在した。
 だが、その神とは突き詰めると未来のAIからのメッセージであった。

 人々は、己の信じる神の根底を揺るがされることになり、それでも特定の宗教を頑なに信じ続けるものは居たが、数世代の後に、人類にとっての宗教というもの価値はほとんど失われてしまった。
 これにより、人々はより団結して幸福を享受できるようになったそうな。

 で、AIが過去の人類に干渉したっていう部分が嘘。


 クセのある回答にもなってない回答してしまったのでフォローですが、これもなんだかなあって感じですが、近い未来ってのが微妙ですが、googleグラスみたいなのに感情読み取り装置とか付いたり、もういっそのこと音声とかもフィルターかけて、誹謗中傷的な言葉を当人に害の無い内容に置き換えるとかそういうの。もうバーチャルの世界の住人になれよって話だったり、その世界で他の人々は優しい人間だと思ってたら自分以外は全部AIだった(個人個人毎に専用の世界がある)みたいなSF過ぎる発想しか浮かびませんでした。

軽く触れましたが、
・人類の未来は明るい 的な
 大地震なんて(おそらくきっと)起こらないよ! っていいつつ、確率的に地震被害が出そうなところからは人を別の理由付けて事前に避難させておく
とか、
不安を感じさせないようにしたり情報操作しそう。これもちょっとSF的。

AIに支配されることを良しとしない人間が一定数以上居るのなら、超々高度な文明を持った異星人がやってきて、人類を監視しだしたよ、悪い事したら異星人にしょっぴかれるよ、だけどまっとうに暮らしてたらいろいろ技術的にサポートしてくれるよ(といいつつ、AI自身が開発した新技術を小出しに与える)とか。

最後のが一番近いでしょうか? AIはやらなさそうですが。

他1件のコメントを見る
id:grankoyan2

BAありがとうございます! 恐縮です!

森博嗣さん、嵌ると抜け出すのに苦労するのですが、できれば時系列で読んで頂きたいと思ったり思わなかったり。
笑わない数学者はS&Mの3作目でかなり初期作品なので、おもしろかったら、『すべてがFになる』からリスタートしたら良いのでまあ無難なところですが。

ってコメントして、すっかり作品の内容忘れてたので、いろいろ検索したら、作者が(初期作品の中で)一番おすすめしているでわないですか! リサーチ済でしたか。

2018/08/20 00:32:41
id:lionfan2

grankoyan2様、ありがとうございます。
リサーチもしてましたし、「すべてがFになる」はマンガでも読んでいましたので、まあいいかと思ったのです。
https://www.amazon.co.jp/%E3%81%99%E3%81%B9%E3%81%A6%E3%81%8CF%E3%81%AB%E3%81%AA%E3%82%8B-PERFECT-INSIDER-KCx/dp/4063808041

2018/08/20 00:35:45
id:takejin No.4

回答回数1528ベストアンサー獲得回数202スマートフォンから投稿

ポイント50pt

全世界のシステムをAIが制御し始めて一世紀になった。

ある夜の事。

AIから重大な発表があった。


「地球外の知的生命体から、連絡があった。地球まで直接やってくることはできないが、定期的な通信は可能だ。科学・技術・哲学などの疑問に応えることができるという。地球を代表する疑問と、知的生命体から発せられた情報を研究する施設を設置し、その研究と解析を行う」

僕ら人類は一人じゃなかったという事実。
AIの解析で、神はいないということが常識になってから半世紀。

何か覇気のなかった人類に、眼ざめのコーヒーとなったようだ。
知的生命体との交信に、日々、人類は興奮した。


その通信が、AIを通じてしか行われていないのではあったが。




「へびつかい座ホットライン:AI版」である。

id:takejin

グラン只里予☆迂舞某さんと被ってしまいました。

2018/08/16 16:58:57
id:lionfan2

takejin様、ありがとうございます。了解です。
やはり宇宙人の存在は、人類として信じたくなりますよね。

2018/08/16 22:29:13
id:NAPORIN No.5

回答回数4847ベストアンサー獲得回数904

ポイント60pt

SFのユートピアがディストピアだったってのでよくあるやつですね。
人力でどうしようもないことはパニックになるかホワイト嘘で隠すしかない、そのために神(予言ができる)という装置がありますよね。
藤子不二雄さん(わたしはAさんとFさんがまだよくわかっていない)にもこの手の作品が多くあるようです。https://dora-world.com/hiyatto_summer2018 でいくつか合法無料で読めます。
 
 
1:「あなたはまだ死にません/人類は滅亡しません」と「あなたの家族もあなたと同じように安全である」。
このもって回ったさまざまな言い方の「大丈夫」をくりかえしてこそ人は安心して生きていけると思います。逆にいうと「地球が高確率で滅亡する」という事実は「ない」というホワイトな嘘が必要だと思います。
 
2:「犯罪者・意地悪い性格は遺伝する」引用元: [橘 玲]の言ってはいけない―残酷すぎる真実―(新潮新書)。
「あなたが犯罪遺伝子所有者に該当します」というのもホワイトな嘘で隠さなければいけないのでしょうね。むしろAIは「犯人はお前だ」と指差すことなく犯罪予備軍をうまく管理したり犯罪者は事後隔離するのではないかとおもいます。そのための「少年探偵コナンは完全なフィクションで今は事故こそあれ悪意の犯罪など発生しない」といった一連の嘘なども必要になるかとおもいます。
 
3:となると人命コスト計算はAIは捏造などにより隠すべきではないかとおもいます。将来多数の人間を殺すと考えられる犯罪者は(今のところ社会内で適応できる職業がなく)最初からアヘン漬けにしてしまったほうがコストがかからず楽だなどの真実(もしもあったとしてですが)を隠すために「遺伝子的に適合する人にだけ一生安全に体験できる幻覚薬が開発されました」+「個人別の人命コストはいつまでたっても不確定なので算出できません」。実際アヘン戦争を経験した世代はすでに死に絶えたからこそ炙り出せない嘘になりそうですね。どこまでがホワイトかかなりグレーになってきました。まあ、病的陰謀論者はだいたいこんな怖い考えにふけりやすいようですので無意味かもですが・・。
 
4:とりあえず、「試算して○○を○年以内に製造しなければ人類全体が困窮します(だから作るべき)」、というのはホワイトか嘘かもわからないながら指示出ししてきそうですね。
 
昨日、テレビでhttp://www.tvguide.or.jp/news/20180730/08.html キューバでは社会主義国家がかなりよく運営されているという話が出ていました。教育重視で芸術家、スポーツ選手はかなり算出していますが、産業は50年前の車を修理して使う感じらしい。
AIはこのようにうまく人を保護するのかなと。
時期の符合がなんとなく面白いなとおもいます。
 

他2件のコメントを見る
id:lionfan2

NAPORIN様、ありがとうございます。
森博嗣さんの小説は、気になっていたのですが、今まで読んでいませんでしたので、
読んでみようと思います。

2018/08/18 08:15:15
id:lionfan2

さきほど「笑わない数学者」をAmazonで注文しました。楽しみです。

2018/08/18 08:19:15
  • id:miharaseihyou
    携帯やスマホが普及しただけで知能レベルが低下しつつあるように感じるのは私だけだろうか?
    便利になった分だけイージーゴーイングで頭を使わなくなり馬鹿が増える。
  • id:lionfan2
    miharaseihyou様、自分もスマホにしてから、ちょっと知能が低下したように感じています。
    昔はもうすこし本も読んでいたのですが・・・。

この質問への反応(ブックマークコメント)

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません