3次元空間上の2本の線分間の最短距離を求め、その最短距離である線の両端の座標（2線分上のどの点を結ぶと最短となるか）を求める方法を教えて下さい。

線分上の任意の点P,Qを以下のように表す。A,Cは各線分の単位ベクトル、t,uはパラメータ、B,Dは各線分上の点とする。

P=At+B

Q=Cu+D

後は、|P-Q|=f(t,u)となる2変数関数fを作ってから、fが最小値となるt,uを求めればよいだけ。

数年ぶりに数学したので間違ってるかもしれません。この方法は力技以外の何者でもないです。

(X-P)=sAと(X-Q)=tBの直線(大文字はベクトル)とすると、２直線間の最短距離の直線はAxB（ベクトル積）の方向です。これをCとすると、最短距離はPを通る平面C(X-P)=0とQを通る平面C(X-Q)=0の距離と同じはずで、Cを単位ベクトルにとっておけば、C(rC+P-Q)=0を満たすr（の絶対値）が求める距離になる…はずです。

点の位置は、直線の一方をrCだけ並行移動した直線同士の交点を求めることになるはずです。

いまいち歯切れ悪くて申し訳ない。

申し訳ないです。やはりおぼつかなかった。訂正させてください。

各直線を(X-P)=sA, (X-Q)=tBとすると、各直線を含む法線ベクトルの等しい２平面を考えて、するとその単位法線ベクトルはC=AxBとなって、最短距離は|C(P-Q)|ですね。各平面に含まれる点を結ぶ線分の、法線ベクトル方向の成分がすなわち両平面の距離のはずですから。