はてな認証APIを使いたいと思い、説明ページを読み始めたところなのですが、

1. api_sig 以外に指定するパラメータ

まずそのサービスに割り当てられたAPIキーを指定する api_key があります。

それに加えて、コールバックURLのCGIに送信したいパラメータをここで指定できます。

「コールバックURLのCGIに送信したいパラメータ」というのは、例えば、

http://auth.hatena.ne.jp/auth?api_key={api_key}&api_sig={api_sig}&foo=bar&hoge=fuga

というURLではてな認証APIのログイン画面に飛ばすと、認証終了後に、

http://hoge.example.net/callback?cert={cert}&foo=bar&hoge=fuga

というようなURLでコールバックしてくれる、ということです。

何かはてなでのログイン処理の前後で伝えたいデータがあれば、これを使えばよいわけです。

2. MD5 hex に変換

MD5とは、1991年に開発されて以来長らく使われているポピュラーなハッシュ関数です。

参照：http://ja.wikipedia.org/wiki/MD5

この関数に任意のバイナリを入れると、ある128ビットの数値(これをハッシュ値という)を出力します。

このハッシュ値を16進数に変換すると32文字の文字列になりますが、これをapi_sigの値に設定すればよいのです。

MD5の関数がどこにあるかはプログラミング言語に依りますが、例えばPerlやRubyには「Digest::MD5」という(たまたまながら同じ名前の)ライブラリがありますので、これを使えばいいと思います。