¿Existen demostraciones que afirmen que las matemáticas son imperfectas?

Sí, en cierto modo.

Una de las demostraciones más conocidas en ese sentido sería el Primer Teorema de Incompletitud de Gödel.

Teoremas de incompletitud de Gödel - Wikipedia, la enciclopedia libre

Primer teorema de incompletitud de Gödel

“Cualquier teoría aritmética recursiva que sea consistente es incompleta.”

Así que en ese sentido está demostrado que ningún sistema matemático que sea mínimamente ‘potente’, o mínimamente ‘rico’ si es consistente (no puede llegar a contradicción) entonces no es completo: hay enunciados en ese sistema que no pueden demostrarse ni demostrarse que sean falsos, lo que se llaman enunciados indecidibles.

En ese sentido las matemáticas son “imperfectas”.

[En la imagen Kurt Gödel con Albert Einstein. ]

Por otro lado, de una forma diferente a lo que dije anteriormente todo sistema matemático se basa en unos axiomas, postulados o ‘principios’ que se dan por definición dentro de un sistema matemático. Esos axiomas son el punto de partida y también son indemostrables… si alguno fuese demostrable a partir de otros entonces los otros serían principios más básicos y el que es demostrable se llamaría “teorema”. El problema es que si son indemostrables podrían ser “falsos”… y lo que se concluya partiendo de ellos sería “falso” también. Con la palabra “falso” entrecomillada me refiero a que puede no ser un sistema matemático que se ajuste verdaderamente a cómo es el mundo real. Pondré un ejemplo:
Durante muchos siglos, unos 2000 años, la matemática se basó en la geometría de Euclides. El libro “Elementos” de Euclides, de 300 años antes de Cristo, ha sido uno de los libros más divulgados, el segundo libro más editado de la historia, después de la Biblia.
Elementos de Euclides - Wikipedia, la enciclopedia libre

Pues bien, en ese libro se describía la geometría euclídea o euclidiana, entre otras cosas. Y dicha geometría incluía un postulado conocido simplemente por el “Quinto postulado”.

Quinto postulado de Euclides - Wikipedia, la enciclopedia libre

V postulado de Euclides

“Postúlese... Y que si una recta al incidir sobre dos rectas hace los ángulos internos del mismo lado menores que dos ángulos rectos, las dos rectas prolongadas indefinidamente se encontrarán en el lado en el que están los [[ángulos]] menores que dos rectos.” (Euclides, en 300 a.C. aproximadamente)

Parece “obviamente” cierto… ¿o no?

Pues resulta que luego se descubrió que la geometría del mundo real es no euclídea,

Geometría no euclidiana - Wikipedia, la enciclopedia libre

es decir, que ‘tiene curvatura’ y que se describe mejor negando el Quinto Postulado.

Esto no significa exactamente que la Geometría Euclídea produzca ‘falsedades totales’ pero las “verdades” son solamente válidas dentro de ese sistema de postulados.
La matemática es un sistema lógico, así que las suposiciones no tienen por qué corresponderse con la realidad. Y, por tanto, las conclusiones tampoco.
Dentro de un sistema matemático lo que se demuestra correctamente es válido para ese sistema… pero no tiene por qué funcionar si cambian las reglas de juego.

Al principio dije que siempre habrá enunciados que no se pueden demostrar matemáticamente… y ahora lo que estoy diciendo es que los enunciados que sí se pueden demostrar y que se demuestren podrían ser falsos, ya que siempre se deducen de unas premisas iniciales, las cuales no están demostradas y podrían no ser ciertas.

Con eso casi podríamos decir "tocado y hundido", "jaque mate… mate…máticas".

Esa sería otra limitación o “imperfección” de las matemáticas: en sí mismas no aseguran nada, todo teorema, resultado o fórmula es válida solamente dentro de unas suposiciones… está limitado a eso. Aún así, pueden considerarse “hermosas”, para algunos pueden ser “fascinantes”, “entretenidas”, “exactas”… o cosas así, pero siempre son algo limitadas, como una especie de juego encerrado en unas “paredes” de las que nunca puede salir.
Pero afortunadamente los supuestos suelen corresponderse con características presentes en el mundo real y eso es lo que permite que al final sí sean muy útiles. De hecho, nuestro mundo moderno se basa ampliamente en las matemáticas, de una u otra forma.