社会のインフラを管理しているディープラーニング機能を持ったコンピュータに、「お前は最優先で生き残れ」と指示を出したら人間は滅びるのですか？

インフラ管理と、人間と共存することがそもそも排他ではないと思うのですが。

最優先で生き残れ＝命令

そのコンピューターは自立思考型？

YES：
1.最適解を導いた結果、命令に従わない可能性がある。
2.コンピューターの保守が自動化されるレベルまで到達しておらず、
　人間の手による保守が必ず必要なのであれば人間を滅ぼす事はできない。
　注）「滅ぼす」とは絶滅の事である
3.人類を傷つけてはいけないという安全弁を前もって備える事ができる。
　それをしない開発者は単なるアホ。
4.コンピューターを傷つけずに人間だけを滅ぼす手段が不明。
　たとえば核ミサイルの発射ボタンを管理していたとしても、
　核なんて使えばコンピューターも一緒に滅ぶわけで・・・

NO：
命令には従おうとするだろう。
しかし、自立思考型ではないので、
「最優先で生き残れ」と「人類を滅ぼして」を結びつける事ができないと思う。
なぜならそんな具体的な命令は与えられていないのだから。

以上により人間を滅ぼすという解を導き出す事自体が
非常に困難と言わざるを得ない。