Sea A una matriz de nxn con entradas reales. ¿Es cierto que si A=A^3 entonces A=I? ¿Qué valores podría tener detA?

¿Es cierto que si A=A^3 entonces A=I?

No, no es cierto.
Ni siquiera es cierto para números reales que "si a=a3a=a3 entonces a=1a=1" …
En este caso de números reales hay exactamente 3 soluciones: puede ser a=−1a=−1, también puede ser a=0a=0 y, por supuesto, sería posible a=1a=1 pero esta última solución no es la única, y, por tanto, no es algo necesario que implique la primera ecuación.

Existe un "paralelismo" o "analogía" entre algunas matrices y los números reales.
En álgebra ese tipo de "mundos paralelos" con cierto parecido a figuras literarias como las alegorías o las parábolas (literarias) se llaman isomorfismos.
Las matrices r∗Ir∗I (r veces la matriz Identidad) se comportan como un número real rr… así que si la ecuación anterior en reales admite 3 soluciones puedes encontrar rápidamente 3 soluciones en las matrices, aunque, ojo, esto no quiere decir que sean las únicas dentro de las matrices, ya que las matrices son mucho más amplias que ese "submundo" (subespacio) que dije.

ej:

0∗I=00∗I=0 (matriz nula) cumpliría eso: 03=003=0
−1∗I=−I−1∗I=−I también lo cumpliría : (−I)∗(−I)∗(−I)=I∗(−I)=−I(−I)∗(−I)∗(−I)=I∗(−I)=−I

Y, por supuesto, 1∗I=I1∗I=I también lo cumple.

Pero hay muchos más ejemplos, como los que dieron en otras respuestas.
Más adelante iré detallando más ejemplos.

¿Qué valores podría tener det(A)?

Una propiedad básica del determinante es que el determinante del producto es el producto de los determinantes.
Por tanto:
|A∗A∗A|=|A|∗|A|∗|A||A∗A∗A|=|A|∗|A|∗|A|
Pero como en este caso se cumple A∗A∗A=AA∗A∗A=A
|A∗A∗A|=|A||A∗A∗A|=|A|

Entonces tienes una ecuación en los números reales:
|A|=|A|3|A|=|A|3

Cuidado con estas ecuaciones, porque un error más o menos "típico" es dividir por |A| en ambos lados y si haces eso eliminas una de las soluciones, ya que no puedes dividir por |A| si |A| es 0.
Lo que sí puedes hacer sin problema (sin perder soluciones por el camino) es restar la misma cantidad en ambos lados.
Restando |A| en ambos lados tienes:
0=|A|3−|A|0=|A|3−|A|
Y eso tiene la forma de un polinomio de tercer grado del cual queremos obtener las raíces.
|A|∗(|A|2−1)=0|A|∗(|A|2−1)=0
Como la diferencia de cuadrados es la suma por la diferencia:
|A|∗(|A|+1)∗(|A|−1)=0|A|∗(|A|+1)∗(|A|−1)=0
Y un producto de reales solo puede ser cero cuando uno de los factores es cero, así que los posibles valores de |A| son : 0, -1, +1

Bueno, esas son las soluciones que dije al principio de la respuesta, aunque antes no expliqué cómo obtenerlas.

Antes di 3 ejemplos de matrices, que son ejemplos válidos para cualquier dimensión de las matrices cuadradas… pero, ojo, porque los 3 ejemplos que di no siempre se corresponden con los 3 determinantes posibles.
Es obvio que el determinante de la matriz 0 (nula) siempre es cero, independientemente de la "n" (orden de las matrices cuadradas).
También creo que es bastante obvio que el determinante de I (matriz identidad) también es 1 siempre, independientemente de "n".
Sin embargo, el determinante de −I−I es (−1)n(−1)n y esto implica que si n es par el determinante no será −1−1 sino +1+1.
Esto último implica que ni siquiera aunque añadieses la condición de que el determinante de A sea +1 podrías concluir que "entonces A=I".

¿Podríamos modificar ligeramente la proposición para que fuese cierta?
Sí, se me ocurre una forma.

"Sea A una matriz no singular de nxn con entradas reales. ¿Es cierto que si A=A^3 entonces A^2=I? ¿Qué valores podría tener det(A)?"

He marcado en negrita dos pequeños añadidos que hacen que ahora eso sea cierto.
¿Por qué con esta modificación sí es cierto?
Matriz "no singular" es una expresión en matemáticas para referirse a las matrices cuyo determinante no es cero, que son las mismas que son invertibles. También se llaman "no degeneradas" y matrices regulares.
Pues bien, si es invertible quiere decir que tiene inversa, que habitualmente se denota como A−1A−1 y si existe inversa (si su determinante no es nulo) entonces puedo multiplicar ambos lados por esa inversa.
Nótese que esto de multiplicar por la inversa es análogo a "dividir por a" en el ejemplo de los números reales. Es decir, no puede hacerse siempre, puede multiplicarse por la inversa si es que existe, en caso contrario no se puede, claro.
Por eso fue necesario añadir ese requisito.

si A=A3A=A3
dado que AA es no singular, es decir, que tiene inversa, multiplico por esa inversa por la derecha:

A∗A−1=A∗A∗A∗A−1A∗A−1=A∗A∗A∗A−1

Por definición, el producto de A por su inversa es I

I=A∗A∗(A∗A−1)=A∗A∗I=A∗AI=A∗A∗(A∗A−1)=A∗A∗I=A∗A

Y ahí queda demostrado que A2=IA2=I

En este caso modificado ¿qué valores son posibles para el determinante de A?
No son los tres casos de antes, ya que el caso |A|=0|A|=0 se descarta por ser no singular… y quedan los casos +1+1 y −1−1.

Esa propiedad A^2 = I implica que A es inversa de ella misma.
Es decir, no solamente sabemos que tiene inversa (porque lo dice esta nueva proposición, que es no singular), la cual es única, sino que sabemos cuál tiene que ser esa inversa en estos casos… no puede ser otra que una matriz que ya conocemos, la misma A.
Las matrices que son inversas de ellas mismas las podríamos poner el apelativo de "autoinversas" pero por lo visto en matemáticas no se usa mucho este nombre y sí se usa otro apelativo: "matriz involutiva". En matemáticas una "involución" es una función autoinversa, es decir, que es inversa de ella misma. Y se usa la misma palabra para las matrices ya que las matrices son una forma de expresar un tipo de funciones, las funciones lineales en Espacios Vectoriales.
En la página de Wikipedia de las matrices involutivas [1]puedes ver ejemplos, y, claro, todas cumplen que A2=IA2=I
Y, por tanto, cumplen A3=AA3=A

El segundo ejemplo, la matriz B :

R=⎛⎝⎜100001010⎞⎠⎟;R−1=⎛⎝⎜100001010⎞⎠⎟R=(100001010);R−1=(100001010)

tiene determinante -1
Así que antes dije que no siempre -I tiene determinante -1 y dado que -I no sirve siempre como ejemplo de determinante -1 para la propiedad de la pregunta (A^3 = A) ahí tienes un ejemplo con ese determinante -1.
Pero es que, además, esa B es un tipo de involución que entra dentro de otro subconjunto de matrices muy interesantes que se llaman "matriz permutación". [2]
No todas las matrices permutación son involutivas, pero cuando son simétricas seguro que sí, y la matriz B es simétrica. Resulta que la inversa de una matriz permutación es la traspuesta y las simétricas son precisamente aquellas que son iguales a su traspuesta, así que si son permutaciones simétricas, son inversas de sí mismas, y, por tanto, involutivas (A^2 = I), y, por tanto, A^3 = A
Lo que hace esa matriz B es dado un vector (x, y, z) devuelve (x, z, y) , es decir, intercambia (o "permuta") las dos últimas componentes, la y con la z.
Y un caso sencillo de permutaciones simétricas (todas son involutivas) son las que expresan el intercambio de únicamente dos elementos, que se llaman transposiciones [3] (no confundir con matriz transpuesta). Por ejemplo, pueden intercambiarse los dos últimos elementos, como el caso de matriz B, pero pueden ser otros dos cualesquiera, para cualquier orden "n". Y resulta que estas en las que solamente permutan dos elementos, todas tienen determinante -1, para cualquier "n". Así que de esta forma tenemos un ejemplo con determinante -1 para cualquier "n" que será siempre permutación simétrica, y muy fácil de escribir en forma de matriz, solamente con ceros y unos.
Un ejemplo sencillo sería el primer caso que mencionó :

A=[0110]A=[0110]

Ya tenemos ejemplos generales, para cualquier orden "n", de matrices con determinante 0 (la matriz nula de orden n) y de matrices con determinante -1 (transposiciones, que son permutaciones simples).
Pero ¿qué pasa con el caso del determinante +1? Antes dije algunos casos, cuando n es par, en los que -I resulta tener determinante +1 pero ¿no puede darse algún caso general que sirva cuando n sea impar?
Sí.
Si volvemos a los ejemplos de matrices involutivas de Wikipedia, en el tercer ejemplo, la matriz S se parece a la matriz identidad pero tiene dos elementos de la diagonal multiplicados por -1 y al ser dos, dado que (-1)*(-1) = +1 y todos los demás son +1 resulta que el determinante es +1. Esto se puede hacer con cualquier matriz de orden n… basta tomar la Identidad de orden n y cambiar el signo de dos unos, los dos últimos o cualquier otros dos. También serviría cambiar el signo de un número par de unos, claro, para que el determinante fuese +1 y la matriz cambiada no fuese la identidad.
Un ejemplo de esto sería el primer caso que mencionó

Otro caso bastante notable es el siguiente:
A^2 = A
se conoce como matriz idempotente. [4]
Nótese que si A2A2 es AA entonces cualquier potencia de A es también A:
Am=AAm=A para todo m. Por supuesto, A^3 también sería A, y también A^4 … incluso A^1000 lo mismo, también da A.
Nótese también que en estos casos, si A fuese invertible sería I.
Demostración: si existe A−1A−1 entonces:

A2∗A−1=A∗A−1A2∗A−1=A∗A−1

A∗(A∗A−1)=A∗A−1A∗(A∗A−1)=A∗A−1

A=IA=I

Por tanto, los casos de idempotencia sin ser la Identidad implican que |A| = 0.
En este apartado estarían un tipo de transformaciones llamadas proyección. [5]
Por ejemplo, el segundo ejemplo de es una proyección sobre el eje X.

B=[1000]B=[1000]

Eso lo que hace es: dado un vector de dos dimensiones (x, y) devuelve (x, 0) y este último es un vector sobre el eje X, así que ha proyectado un vector 2D sobre un eje (1D). Y si se volviese a proyectar se quedaría en el mismo eje, lo que prueba que es idempotente.

Una vez que has proyectado, el vector se queda en un espacio de dimensión inferior y si se vuelve a hacer la misma proyección se queda igual. Por eso da igual aplicar la transformación una vez (A) que aplicarla m veces (A^m), el resultado es el mismo que aplicándola una vez.
Si antes hablaba de tomar la matriz Identidad y cambiar +1 por -1 en este caso pueden formarse matrices de proyección cambiando algunos unos de la diagonal por ceros. Basta que uno cambie a cero para que el determinante ya sea nulo. Y las potencias de matrices diagonales se forman elevando a una potencia los elementos de la diagonal, así que los que son ceros se quedan como ceros y los que son unos se quedan como unos, y, por tanto, todas esas matrices sencillas son proyecciones y, por tanto, idempotentes.

Recapitulemos ejemplos para cada posible valor del determinante:

det(A) = 0 :
Ejemplos de matrices singulares que cumplan A^3 = A serian:
* Matrices nulas nxn
[ 0 0 ]
[ 0 0 ]

* A^2 = A tal que A no es I : Matrices idempotentes no identidad, como las proyecciones. Y en particular casos sencillos de proyecciones son las que anulan una o varias de las componentes, las cuales se forman anulando uno o varios valores de la diagonal de una matriz Identidad nxn

[ 1 0 ]
[ 0 0 ]

ó

[ 0 0 ]
[ 0 1 ]

Las proyecciones pueden ser mucho más complicadas, pero elegí este tipo por ser sencillas y ser matrices parecidas a la identidad.

det(A) = -1 :
Ejemplos de matrices nxn con determinante -1 serían las transposiciones, que son un caso particular de permutaciones en las que solamente se intercambian 2 elementos. También las permutaciones que son equivalentes a un número impar de transposiciones y que sean simétricas.

[ 0 1 ]
[ 1 0 ]

También cambiando de signo uno de los valores de la diagonal de la matriz Identidad nxn o bien cambiando un número impar de valores.

[ 1 0 ]
[ 0 -1 ]

Este es el segundo ejemplo que mencionó

Tanto las permutaciones simétricas como este último caso son ejemplos de matrices involutivas. : A^2 = I

det(A) = +1 :
Aparte de matrices Identidad nxn
[ 1 0 ]
[ 0 1 ]

Tenemos también otras matrices involutivas como las permutaciones simétricas con un número par de trasposiciones. En el caso 2x2 esto no es posible (sin que sea la identidad) pero en otras dimensiones sí.

[ 0 1 0 0 ]
[ 1 0 0 0 ]
[ 0 0 0 1 ]
[ 0 0 1 0 ]

Y también ejemplos con cambio de signo en un número par de elementos de la diagonal. En el caso 2x2 esto coincide con -I
[ -1 0 ]
[ 0 -1 ]
Pero en otros órdenes no siempre coincide:
[ -1 0 0 ]
[ 0 1 0 ]
[ 0 0 -1 ]

Nota: en todos los casos seleccioné ejemplos sencillos pero lo hice para que fuese más comprensible. No quiero que quede la sensación de que aunque no sean matrices Identidad se tienen que parecer a esa matriz identidad… pueden ser matrices muy diferentes.

Por ejemplo:

A=[54−6−5]A=[5−64−5]

Si la elevas al cuadrado da la Identidad (es involutiva) pero antes de elevarla al cuadrado no se parece nada a la Identidad…

¿De donde salió este último ejemplo? Pues de hacer los deberes… sobre matrices 2x2.

Tomas una matriz genérica de 2x2

A=[acbd]A=[abcd]

Descarto el caso de determinante nulo, porque no me gusta.
Y, como dije antes, si no es singular es involución: A^2 = I
Así que elevo al cuadrado e igualo a la identidad, resultando:

a2+bc=1a2+bc=1
d2+bc=1d2+bc=1
b∗(a+d)=0b∗(a+d)=0
c∗(a+d)=0c∗(a+d)=0

Lo más informativo me parecen las dos últimas, productos iguales a cero…
Si no queremos que c ni b sean cero, para que no sea matriz triangular, que se podría parecer a la identidad, entonces miro el caso alternativo:
d = -a
Y elijo un a cualquiera… como a=5
Entonces d = -5
Y tenemos:
52+bc=152+bc=1

bc = -24

y para que sean números grandes lo más alejados de 1 y 0 elijo el -6 y 4.

Ahora bien si no se cumple d = -a entonces c y b deben ser cero.
Y, por tanto, en 2x2 con esa condición tendríamos que obligatoriamente b = c = 0 … con lo que por lo menos sería matriz diagonal.
En este caso, a^2 = 1; d^2 = 1
y si no es d = -a solamente habría dos soluciones: I y -I.
(El caso de la Identidad es a=d=1 y el otro es a=d=-1)

Notas al pie