iOS 11に対応しているiTunesのバージョンが、Windows Vistaには対応していません。(iOS 11がVistaのサポート終了後に登場したバージョンなので)
そのため、Windows VistaのiTunesではiOS 11にアップデートできないため、Windows 7かWindows 10にしてください。(ちなみにMacの場合はmacOS 10.10 Yosemite以上が必要)
※iOSのストレージの空き容量を増やせばiOS単独でもiOS 11にできますが、iOS 11に対応していないiTunesとは同期やバックアップなども正常にできなくなるので、パソコンを更新する予定がない場合はご注意ください。