はてなブログのCSSの設定に関する質問です。

デザインCSS に、以下の指定を追加してください。

/* 月別アーカイブ */
/* フォントサイズ 12px ← 16px */
A.archive-module-year-title,
A.archive-module-month-title {
    font-size: 12px;
}
/* 行の高さを小さく */
LI.archive-module-year,
LI.archive-module-month {
    line-height: 1;
}
/* タイトルと月別のリンクの間を少し狭く */
LI.archive-module-year {
    padding-top: 0 !important;
}

/* 記事カテゴリ */
/* フォントサイズ 12px ← 16px */
div.hatena-module:nth-child(6) UL.hatena-urllist li A {
    font-size: 12px;
}
/* 行の間隔を狭く */
div.hatena-module:nth-child(6) UL.hatena-urllist li {
    padding: 0.1em 0;
}

フォントサイズだけを小さくすると、行間などが目立つので、隙間の調整も少ししてみました。
こんな感じになるはずです。

記事カテゴリだけを指すクラスや ID が無かったので、セレクタで順番を指定してます。
サイドバーのモジュールの順番を入れ替えた場合には、それに合わせて変更する必要があります。