配列操作について教えて下さい。

if (! rec) { // 最初は何も入ってない
    rec = [];
}
上の部分が理解できないのですが、ここはどういう意味の処理なのでしょうか？

ループをひとつずつたどってみます。

    // i = 0
    // 処理対象は ["2015/11/25 16:40:58","2015/11/25","鈴木","UNIT1","80"],
    var key = dataArray4[i][3];     // key = "UNIT1"
    var rec = tableMap[key];        // rec = tableMap[ "UNIT1" ] (= null)
    if (! rec) {                    // rec = null なので、! rec は「真」
        rec = [];                   // rec を空の配列にする（後の .push がエラーになっちゃうから）
    }
    rec.push(dataArray4[i][4]);     // rec = [80] になる
    tableMap[key] = rec;            // tableMap[ "UNIT1" ] = [80]

    // i = 1
    // 処理対象は ["2015/11/25 16:40:59","2015/11/25","鈴木","UNIT1","40"],
    var key = dataArray4[i][3];     // key = "UNIT1"
    var rec = tableMap[key];        // rec = tableMap[ "UNIT1" ] (= [80])
    if (! rec) {                    // rec は [80] なので、! rec は「偽」
        rec = [];                   // ここにはこない
    }
    rec.push(dataArray4[i][4]);     // rec = [80, 40] になる
    tableMap[key] = rec;            // tableMap[ "UNIT1" ] = [80, 40]

    // i = 2
    // 処理対象は ["2015/11/25 16:40:60","2015/11/25","鈴木","UNIT2","50"],
    var key = dataArray4[i][3];     // key = "UNIT2"
    var rec = tableMap[key];        // rec = tableMap[ "UNIT2" ] (= null)
    if (! rec) {                    // rec = null なので、! rec は「真」
        rec = [];                   // rec を空の配列にする（後の .push がエラーになっちゃうから）
    }
    rec.push(dataArray4[i][4]);     // rec = [50] になる
    tableMap[key] = rec;            // tableMap[ "UNIT2" ] = [50]

ちなみに、

    if (! rec) {
        ...

は、以下と同じ意味です。

    if (rec == null) {
        ...

// rec = tableMap[ "UNIT2" ] (= null)　
このnull（空っぽ？）の意味は、UNIT2がはじめて登場してきたという意味なのでしょうか？

そうです。
i = 2 の時点では、tableMap にはキーが "UNIT1" のデータしか入っていないので、"UNIT2" で取り出すと null が取り出されます。

つまり、配列にプッシュするには、最初は空の配列を用意しておく必要があるので
あたらしいkeyが出て来たときの判定用ですか？

そうです。

最初に空の配列を全てセットしておく、という手もあります。

var tableMap = {};  // 連想配列（添え字が文字列）

// 最初に空の配列を設定しておく
for (var i=0; i<dataArray4.length; i++){
    var key = dataArray4[i][3];
    tableMap[key] = [];
}

// データを集計する
for (var i=0; i<dataArray4.length; i++){
    var key = dataArray4[i][3];
    var rec = tableMap[key];
    rec.push(dataArray4[i][4]);     // rec は Array だと保証されている
    tableMap[key] = rec;
}

分かりやすいように、やや冗長に書いています。
もっと短く書くと、こんな風に書けます。

var tableMap = {};  // 連想配列（添え字が文字列）

// 最初に空の配列を設定しておく
dataArray4.forEach(function(rec) {
    tableMap[rec[3]] = [];
});

// データを集計する
dataArray4.forEach(function(rec) {
    tableMap[rec[3]].push(rec[4]);
});