【数学 因数分解】この解き方がどこで間違っているのか教えていただきたいです。

符号が逆になった最大の理由は、最初の段階で並べ替えてしまったために、y2＝(+y)2 x2=(-x)2となってしまったためですね。並べ替えを行っていない正解の方は、x2=(+x)2 y2=(-y)2として因数分解をしていますよね。
ただ、符号が逆になったことで、答えが変わったわけではないので、間違いとは言えないと思います。
Y = 2yと置きなおして考えると、もう少し見やすいと思いますよ。
x2 - 2xY + Y2 - 2x + 2Y - 3
= (x-Y)2 - 2(x-Y) - 3
= (x-Y-3)(x-Y+1)
= (x-2y-3)(x-2y+1)

結論から言うと間違っていません。
試しに２つの括弧をそれぞれ－１でくくってみてください。すると（－１）×（－１）で相殺されて赤字の答えと同じになるはずです。
あなたの解法はｙに焦点を、赤字の解法はｘに焦点を当てたためこのような違いになりました。
一般的にｘとｙがあったらｘに焦点を当てて解くことが多いので、採点ミスをされないようにｘとｙの次数が同じならｘを中心に解いた方がいいと思います。
あと、因数分解の確認をするなら自分の出した答えを展開してみるといいと思います。

上の方が仰るように、貴方が求めた答えと赤ペンの答えとは同一のものです。
貴方が求めた答えの乗数、被乗数をそれぞれ (-1) 倍すると赤ペンの答えと一致することがわかると思います( -1 × -1 = 1 ですから、それぞれを -1 倍する行為は、元の答えに 1 をかけることと同義ですよね)。

匿名1号サンと同じですが。
(2y-x+3)(2y-x-1)
＝(-x+2y+3)(-x+2y-1)
と、変形できますね。
ーー

画像のあなたの解き方を元にすると。2行目からを
x^2-4xy+4y^2-2x+4y-3
＝(x-2y)^2+(-2)(x-2y)-3となり、
これは、x-2y＝Aとすると、
=A^2-2A-3
ですね。ここからは、あなたは理解できるでしょう。
ペンを取り、手を動かして、計算を続けて見て下さい。

---
受験の採点をする人は、×ににしないかもしれないですが、
しょうが無いでしょう。

余談ですが、高校生で習う
（二次方程式や微分方程式などでは、x, yの順で書くので、なれていた方が良いです。）
別に、x,y,z,でなくても、a, b, c, dとか、s, t, uとか、アルファベット順に書くことを習慣とした方が良いですね。
ーー
最後に、風邪を引かずに試験本番で、実力が発揮できると良いですね。

全く問題ないですね。採点者の資質を疑ってよいです。
どちらの解答も全く問題無いと言うことが寧ろ大切です。