高校数学の領域を図示する問題なんですが、考え方（解法）を含め

x^2-3xcosθ+y^2+ysinθ+cos2θ=0

を変形すると

(x-3cosθ/2)^2 + (y+sinθ/2)^2 = 5/4

となります。すなわち原点に中心があり、長軸がxでx=±3/2を通り、短軸がyでy=±1/2を通る楕円を考え、その上を中心が通るように半径√5/2の円を一周させたときに円周が通る領域ということになります。

短軸は円の半径より短いので楕円内部は全部つぶれます。外側は、楕円を外側にむかって√5/2だけ広げた線が境界となりますがこれは正確には楕円ではありません。

試験ならばそういう図形をざっくり書けば正解と思われます。外側の線を厳密な式で書くことは高校数学の範囲外と思います。いちおうパラメータ表示でやった図を添付します。

x^2-3xcosθ+y^2+ysinθ+cos2θ=0

(x-(3/2)cosθ)^2 + (y+(1/2)sinθ)^2 = (9/4)cos^2θ + (1/4)sin^2θ - (cos^2θ-sin^2θ) （∵cos2θ=cos^2θ-sin^2θ）

(x-(3/2)cosθ)^2 + (y+(1/2)sinθ)^2 = (5/4)(cos^2θ+sin^2θ) = 5/4 （∵cos^2θ+sin^2θ=1）

Bは((3/2)cosθ,-(1/2)sinθ)を中心とする半径√5/2の円であることがわかりました。

で、x=(3/2)cosθ、y=-(1/2)sinθは、長軸が(3/2)*2、短軸が(1/2)*2の楕円の媒介変数表示です。

（(3/2)cosθ=(3/2)cos(-θ)、-(1/2)sinθ=(1/2)sin(-θ)なので、逆回転になりますが、条件Aより1回転するので、マイナスが付いていない場合と変わりありません）

求める領域は、長軸が((3+√5)/2)*2、短軸が((1+√5)/2)*2の楕円を少しだけふっくらさせた曲線（上下左右の端は同じ）とその内側になります。

（θに適当な値（π/2等）を入れて計算すれば、楕円より少しだけ大きくなることがわかります）

FunctionViewというソフトを使うとわかりやすいです。

http://hp.vector.co.jp/authors/VA017172/

x^2-3x cosθ+y^2+y sinθ+cos2θ=0･･･(B)

(B) を平方完成すると、

(x-3/2 cosθ)^2+(y+1/2 sinθ)^2=5/4

これは(3/2 cosθ, -1/2 sinθ)を中心とする半径√5/2の円。この中心点をPとおく。

中心の軌跡は、 x=3/2 cosθ, y=-1/2 sinθ。

θを消去する:

(cosθ)^2+(sinθ)^2=1

⇔(2x/3)^2+(-2y)^2=1

⇔(x^2)/(3/2)^2+(y^2)/(1/2)^2=1……(*)

このように楕円となる。

θの定義域から、点Pはこの楕円の全ての領域を動く。

ーーーーーーここまで中心点Pの軌跡を求めた。以降は(B)の領域を求めるーーーーーーーー

求めるべき領域は、このような楕円上を動く点Pを中心とする半径√5/2の円。つまりドーナツ状の領域と予想出来る(この時点では「穴が空いてる」保障が無い)。

外部(原点とは反対側の領域)は簡単に図示出来るので、内部について考える。

原点では(B)⇔cosθ=0⇔θ=0 or 2πとなり(A)の条件を満たすので、「原点は含まれる」形状となる。以上を総合すると、求める領域は楕円。

図示の仕方は、以下の通り:

⑴ (*)のx・y切片(3/2, 1/2)を通る楕円を描く。

⑵ 楕円の焦点を書く。焦点の座標は( ±√((3/2)^2-(1/2)^2), 0)=(±√2, 0)

⑶  x・y切片を√5/2ずつ延長した楕円を描く。この楕円の外周および内部が図示すべき領域。