¿Si tienes 2 padres, 4 abuelos, 8 bisabuelos, entonces si te remontas a 40 generaciones, tendrías un supuesto 1 billón de ancestros, pero solo 100...

La pregunta es interesante. El cálculo matemático de que en 40 generaciones tendríamos alrededor de 1 billón (10^12) de ancestros es correcto sólo si suponemos que no hay cruzamientos (endogamia), pero como esta enorme cifra está muy lejos de ser real, esto significa que sí ha habido cruzamientos, y es por eso que la cifra real es mucho menor.

Por ejemplo, la premisa de que "al tener dos padres, tienes 4 abuelos", que es cierta en ausencia de endogamia, no tiene en cuenta que el padre de mi madre podría ser también el padre de mi padre, con lo cual tendría dos padres y tres abuelos, no cuatro abuelos.

Este tipo de "endogamia cercana", citada a modo de ejemplo, no es frecuente; en cambio, la "endogamia lejana", a medida que escalamos por el árbol genealógico se hace cada vez más y más frecuente.

Para ejemplificar el enfoque opuesto, si todos los humanos que existen en el planeta fueran descendientes de una sola pareja, que simbolizaremos como "Adán y Eva", entonces a medida que ascendemos por nuestro árbol genealógico el número de ancestros iría aumentando para luego ir reduciéndose y llegar, al final, en los orígenes, a ser solamente dos, no billones, ya que solamente había una "pareja original".

Para más detalles sobre el tema, ver este video de Joe Hanson: