Si quiero convertirme en matemático de manera autodidacta, ¿cómo puedo iniciar? ¿Qué debo estudiar primero y de qué manera?

De verdad, olvídalo.

Si quieres convertirte en matemático estudia un bachiller, haz una especialización en ciencias, matricúlate en la Universidad y mátate a estudiar como un poseso cinco años de licenciatura en matemáticas, al terminar házte un máster de otros dos años con un buen Trabajo Fin de Máster, luego dedícate otros cuatro o cinco años a hacer cursos de doctorado, y embárcate en una Tesis Doctoral de matemáticas con un buen tutor, lo que te llevará unos años más.

Cuando hayas hecho todo eso estarás a punto de empezar.