¿Por qué no se puede usar la fórmula E = mc² para describir la relación entre masa y energía en un fotón?

Porque te mintieron: esa no es la fórmula correcta.

La relación relativista entre la masa m,m, momento pp y energía EE de una partícula es

E2=(mc2)2+(pc)2.E2=(mc2)2+(pc)2.

La tan famosa E=mc2E=mc2 es un caso especial de esta relación general, válida solamente cuando el momento p=0;p=0; es decir, cuando la partícula está en reposo. E=mc2E=mc2 no aplica al fotón porque el fotón nunca está en reposo; siempre se mueve con velocidad c.c.

Para ver cuál es la relación correcta para el fotón, sustituimos su masa mfoton=0mfoton=0 en la relación general y obtenemos que

Efoton=pc.Efoton=pc.

La energía de un fotón es proporcional a su momento, con constante de propocionalidad c.c.

Como ñapita podemos usar la relación entre el momento pp y la longitud de onda λλ de de Broglie, p=h/λp=h/λ donde hh es la constante de Planck, para encontrar cómo la energía de los fotones depende de su longitud de onda:

Efoton=hcλ.Efoton=hcλ.

Y ahí está: por eso es que las microondas no te hacen ni jí mientras que los rayos gamma te esbaratan el cuerpo; la diferencia en longitud de onda se traduce a una diferencia en energía.