AjaxでPHPにPOSTで送信し、その結果を受けてページ上に出力するプログラムを作っています。ライブラリにJQueryを使っています。

すみません。上記の説明を勝手に解釈します。

リクエストのary(arayではなく)パラメータとして変数aryの中身を送信されたいのであれば

var ary =[];
ary["test"] = 1;

$.ajax({
  type:"POST",
  url:"test.php",
  data: {"ary" : ary },
  cache:false,
  success: function(str){
    $("#preview").text(str);
  }
});

となるかと思います。

URLのデータを構築している関数である $.param がオブジェクトに対応していません。従って、以下のような形で、関数を書き換えると動作します。

(function ($) {
	var originalparam = $.param;
	$.param = function (obj) {
		var strarr = [], param = {};
		for (var i in obj) {
			if (typeof obj[i] === "object") {
				var tmp = [];
				for (var j in obj[i]) {
					tmp.push(encodeURIComponent(i + "[" + j + "]") + "=" + encodeURIComponent(obj[i][j]));
				}
				strarr.push(tmp.join("&"));
			}
			else {
				param[i] = obj[i];
			}
		}
		strarr.push(originalparam(param));
		return strarr.join("&");
	};
})(jQuery);

var ary = {}; // オリジナルではここが配列になっているのでおかしい
ary["key1"] = 1;
ary["key2"] = 2;

$.ajax({
	type: "POST",
	url: "test.php",
	data: { ary: ary },
	cache: false,
	success: function (str) {
		$("#preview").text(str);
	}
});

これはあくまで関数の例なので、適当求める形（階層が深くなる場合の対応等）に実装して下さると幸いです。

いずれにしても、現行の1.3.x系列ではオブジェクトを渡すことはできません。1.4からは渡せるようになります。