.ost ﾌｧｲﾙは､ｷｬｯｼｭﾓｰﾄﾞという名の通り､写しのﾃﾞｰﾀです｡
Exchange のﾒｰﾙは常にｻｰﾊﾞにあり､ﾒｰﾙの削除をしない限りは消えません｡
一応､Microsoft のﾍﾟｰｼﾞの記載を｡

ｵﾌﾗｲﾝ Outlook ﾃﾞｰﾀ ﾌｧｲﾙ (.ost) を再作成する

ｵﾌﾗｲﾝ Outlook ﾃﾞｰﾀ ﾌｧｲﾙ (.ost) は､Exchange 情報のｺﾋﾟｰです｡このﾌｧｲﾙをﾊﾞｯｸｱｯﾌﾟする必要はありません｡いつでも新しいｺﾋﾟｰを作成できます｡

http://office.microsoft.com/ja-jp/outlook-help/HA010354964.aspx#BM2

でも､手で消すのはちょっと怖い気もしますよね｡
↓は､.ost ﾌｧｲﾙの移動方法を説明した Microsoft のﾍﾟｰｼﾞです｡
http://office.microsoft.com/ja-jp/outlook-help/HA010378297.aspx

この手順に従って､｢Exchange ｷｬｯｼｭﾓｰﾄﾞを使う｣のﾁｪｯｸを外した状態で .ost ﾌｧｲﾙに別のﾌｧｲﾙ名を割り当てれば､元の .ost ﾌｧｲﾙをつかまない状態で Outlook を起動することができると思います｡
Outlook がつかんでいない状態であれば､explorer からﾌｧｲﾙ名の変更ができるはずです(もちろん､削除も)｡
Outlook で､正常にﾒｰﾙの受信 / 送信ができることを確認してから､ﾌｧｲﾙを消せば良いと思います｡