(1)リファラ監視されている
キーワードは Referer
(2)cookiesで管理されている
キーワードは Cookie と CookieContainer
(3)クライアントスクリプトで動的に生成されている
などなど、サイトによって対応はさまざまなので
どこのサイトをターゲットにしているのかによって対応も変わります。
(オートパイロットや攻撃対策として、わざと行っている可能性が高いので
URLを書かれても返答できないと思いますけど・・・。)
(1)や(2)のようなものであれば
HTTPのハンドシェイク時に適宜対応するだけですが
(3)は互換機能を実装するか
もしくはオートパイロット的なものにするか正直なところ実現は難しいかも。
回答ありがとうございます。
たぶん(3)じゃないです。(3)を使ってるサイトって結構ありますよね(笑)
(1)か(2)か理由はわかりませんが,
順序をスキップしないでリクエストしていった結果
取得することが出来ました。ありがとうございましたm(_ _)m