?判断はするけど推測はしないんじゃないの？
推測するって事は解の候補を複数持っているという事だから
複数の結果を提示できるようでなきゃ本物じゃない
どのように判断するかについては
ﾌﾟﾛｸﾞﾗﾏｰが設計した通りの段取りに従ってとしか言いようがないけど
https://cloud.watch.impress.co.jp/docs/column/infostand/710269.html

ﾃﾞｨｰﾌﾟ･ﾗｰﾆﾝｸﾞではﾃﾞｰﾀを大量に与え､ﾏｼﾝに自己学習をさせて､さまざまな事柄の判断基準を覚えさせる｡しかし､言葉の関係を理解できるようにするため､ﾃﾞｰﾀﾃｷｽﾄに｢注釈｣を付けた膨大なﾃﾞｰﾀﾍﾞｰｽが必要になる｡しかし､これまで注釈付けの作業は人間がやらざるを得ず､大きな作業負担になっていた｡

?一部分野では前世紀のうちに人間を凌駕してるでしょ
https://ja.wikipedia.org/wiki/円周率の歴史 参照
他にも人工衛星の打ち上げなどにｺﾝﾋﾟｭｰﾀｰの存在が昔から欠かせなかった
最近の例だと次の記事が参考になるかもしれない
https://liskul.com/artificial-intelligence-19409
このうち3､5､7なんかは人間超えてそうだね
記事中では推測という言葉が使われてるけど
実際の動作は判断に過ぎないはずなんでそこんとこよろしく

?条件さえ整えば可能じゃないの？たとえば
A.地球温暖化が進んでｴｱｺﾝなしじゃ生活できなくなる
B.ｴｱｺﾝの制御をｺﾝﾋﾟｭｰﾀｰが管理してる
C.ﾌﾟﾛｸﾞﾗﾏｰが時限爆弾ﾌﾟﾛｸﾞﾗﾑを仕掛けておく
この3つの条件が揃えば不可能じゃない
特にCの条件は不可欠だね
感情を持ったｺﾝﾋﾟｭｰﾀｰは未だ存在しないから
ﾌﾟﾛｸﾞﾗﾑされてない事なんて何もできゃしないのよ

人工知能について答えます｡

?人口知能は､人間の判断傾向を記憶しています｡
?人工知能は､多くの点で人間を超えています｡
?人工知能は､人間を滅ぼすことはしません｡

…… ｲｽﾗｴﾙの若き歴史家は､つぎのような仮説を唱えている｡
｢人が稲を作ったのではなく､稲に人類が支配されたのだ｣
https://twilog.org/awalibrary/search?word=%E4%BA%BA%E3%81%8C%E7%A8%B2&ao=a

…… ｢すぐ怒る人｣は実際よりも自分が賢いと考えていることが判明｡
Zajenkowski, Marcin 19‥‥‥ Poland ／Warszawa大学 研究ﾁｰﾑ
http://news.livedoor.com/article/detail/15132920/(20180809)

…… IQが一階なら､偏差値は二階､学歴は三階です｡
知能指数(IQ)は､論理的法則を発見する能力の目安です｡
https://twilog.org/awalibrary/search?word=%E7%9F%A5%E8%83%BD&ao=a

回答は設計によって変わるので､一般的と思われる例で｡
宿題らしいので､丸写しはだめですよ｡

?
a.人間が､入力-出力のﾍﾟｱを大量に用意する｡
b.人工知能が､入力-出力のﾍﾟｱを元に学習する｡
c.設問(入力)に対して､人工知能が､回答(出力)を出す｡
判断や推測ではなく､推論(決められたﾛｼﾞｯｸに基づく演算)です｡

一般的なﾌﾟﾛｸﾞﾗﾑと人工知能の違いは､
推論に必要な処理を人間が用意するか､人工知能が用意するかです｡
とは言っても､人工知能が全てを用意するのは現在の所､現実的ではないので､
人間が用意した枠の中で､設定値を変える(この部分を学習によって調整する)といった感じになると思います｡

注意しなければならないのは､入力は｢数値化/ﾃﾞｰﾀ化｣できるものでないといけない､ということ｡はてなで見かける回答などでは､この点を無視しがちです｡
ようするに､人工知能を使用するためには､必要なｾﾝｻｰなどを用意可能､あるいは文字や画像などﾃﾞｰﾀ化されている事が最低条件の1つです｡

また､最初に(aの部分で)出力(人間が｢欲しい/正しいと思う｣答え)を用意するのも最低条件の1つなので､そこを忘れてはいけません｡いいかえると､人間が解答を出せない､あるいは正解･不正解のどちらか判断を付けられない問題や､(結果が観測されていない)未知の現象などでは､aをｸﾘｱできず､bの学習が成立しないので､人工知能を活用するのは難しいでしょう｡

例外は､｢答えの解き方(ﾛｼﾞｯｸ)｣だけ最初に分かっている場合です｡
この場合の主語は､人工知能というよりｺﾝﾋﾟｭｰﾀｰになりますが､人間が答えを出せない/出しにくい問題でも､ｺﾝﾋﾟｭｰﾀｰなら回答可能な場合があります｡


?
これは､｢ｺﾝﾋﾟｭｰﾀｰが人間を超えればどうなりますか｣という質問になると思います｡
すでに超えている部分があるので､実際にどうなっているか観察してみるといいと思います｡

?
これも､｢ｺﾝﾋﾟｭｰﾀｰは人間を滅ぼすことはできますか｣という質問になると思います｡
ﾊﾞｸﾞや設計ﾐｽがあれば可能なので､Yes｡
※ﾊﾞｸﾞがなくても可能性はあるので注意｡(不具合を起こすという意味ではﾊﾞｸﾞor設計ﾐｽですが…)