JULY 2nd
【人間の祖先というものは、一代前は父と母の二人、二代前なら祖父二と祖母二の四人、三代前は八人で四代前なら十六人となる。日本人の一代を二十年(つまり二十歳で子を産む)で計算してみると、二十七代前で、やっと足利尊氏の時代に手が届く。
「さて大変だ! 二十七代前の私の先祖は一億二千七百九十二万六千二百七十二名いるわけで、現在の日本の総人口より多いことになる。
しかし、このことは何を意味するか?
二十五代前が、約三千万の先祖だから、恐らくその頃の日本人口は、これ以下ではなかったか? つまり、そうそう他人同士で結婚というわけにいかず、親族同士でも結婚し合うかして、そういうことになるんだが、結局のところ、現代日本人の血には、残らず共通の祖先の血が流れているといっても過言でない。】
わざわざページを挙げる必要はないんですが、はてなのシステム上、URL を回答しなければならないので、上記の URL を挙げました。
さて結論から申し上げますと、ご質問には前提の誤りがあります。
上記の文章から引用すれば「共通の祖先」がいる、ということですね。「親族同士でも結婚し合う」ということもあったでしょうけれど、特に親族同士(近親婚)であるとは限りません。遠縁を含め祖先が共通しているだけのことです。
従って「数学的解」は存在しないどころか、パラドクスですらありません。
分かりやすく申し上げますと、仮に近親婚タブーがない場合のモデルで考えてみて下さい。
また、旧約聖書によれば(信じているわけではありませんが)アダムとイブがすべての人間の祖先、ということになっていますね?