Descarga la aplicación para disfrutar aún más
Vista previa del material en texto
INTELIGENCIA ARTIFICIAL / ARTÍCULOS Cuando la inteligencia artificial es quien habla POR JUAN DE LA CRUZ BERLANGA Es frecuente que tecnologías basadas en inteligencia artificial lleven a cabo procesos comunicativos en empresas y administraciones públicas. Entendemos este proceso desde algunas de las teorías de la comunicación, con el consiguiente impacto organizativo. No se puede imaginar una organización empresarial sin comunicación. El sociólogo alemán Niklas Luhmann situaba a la comunicación como la base de los sistemas organizativos, como son las organizaciones empresariales. Ciertamente una empresa no se entiende sin sus procesos comunicativos. Procesos que van desde el marketing y la comunicación institucional, a los procedimientos para organizar la producción entre los departamentos, las reuniones con clientes, las normativas internas, los flujos económicos externos e internos de la organización o las conversaciones, profesionales o no, entre compañeros. En los últimos años las tecnologías de procesamiento del lenguaje natural, un tipo de inteligencia artificial, están demostrando cada vez mayores capacidades generando impacto en los medios de comunicación y en la sociedad. El ejemplo más reciente de ello es ChatGPT, basado en el modelo de procesamiento de lenguaje natural GPT-3o Whisper. Ambos sistemas desarrollados por OpenAI. La primera permite mantener conversaciones con una inteligencia artificial con un alto grado de semejanza a la que se podría mantener con un humano. La segunda está especializada en el reconocimiento del lenguaje, siendo capaz de transcribir con gran precisión conversaciones en diferentes idiomas. Estas nuevas tecnologías tienen ya un impacto en la organización empresarial. En una fase anterior a la de la revolución que está suponiendo esta nueva era de oro de la inteligencia artificial, ya observamos la proliferación de los sistemas de IVR, Interactive Voice Response por sus siglas en inglés, con los cuáles es habitual interactuar a la hora de tratar de ser atendido por los centros de atención telefónica de las compañías. Pero otros muchos de los procesos comunicativos propios de las organizaciones empresariales están siendo automatizados con las nuevas tecnologías de procesamiento del lenguaje natural. Un ejemplo de lo anterior pude experimentarlo mientras buscaba en Internet un crédito al consumo para comprar un coche. Al poco de realizar la búsqueda recibí un correo electrónico de un banco ofertándome un crédito. Al ignorarlo por su elevado tipo de interés recibí otro correo, poco después y de la misma entidad, ofertándome otro crédito con mejores condiciones. Yendo al enlace que me proponía terminé los detalles y un contrato con vinculación legal. Todo ello sin intervención humana por parte del banco, pero en todo ese proceso, incluyendo la firma del contrato, se está produciendo un acuerdo, una cooperación en el sentido de Grice, entre banco y yo. Muchos de los procesos comunicativos propios de las organizaciones empresariales están siendo automatizados con las nuevas tecnologías de procesamiento del lenguaje natural La automatización de procesos a la hora de comunicar dentro de una organización es otro ejemplo de ello. Una herramienta que tenga capacidad para comunicar a dos departamentos entre sí con un mensaje ante un determinado suceso. O cuando una plataforma de big data obtiene una conclusión sobre un conjunto de datos y posibilita a un área una comunicación gráfica de los mismos a la dirección de la organización. En el pasado estos últimos necesitaban plantillas mucho más numerosas para poder abordar conclusiones sobre datos similares y realizar una actividad de ordenación y presentación de resultados. Esa parte de su actividad comunicativa queda realizada por la plataforma de big data y su capacidad de poder detectar patrones, extraer conclusiones o aprender de casos pasados. Hay que tener en cuenta que lo primero que se automatizó mediante las nuevas tecnologías de inteligencia artificial fue el propio trabajo de los programadores. Antes de la posibilidad del uso de redes neuronales profundas y otros algoritmos respaldados por las nuevas capacidades de cómputo, era necesario un número elevado de desarrolladores de código que llevasen a cabo los llamados sistemas expertos, muchas veces a base de sentencias lógicas elementales del tipo «IF…THEN». Parece, por tanto, que estamos ya inmersos en un proceso en que la comunicación de las organizaciones humanas no la realizan ya exclusivamente colectivos o individuos humanos, sino que la comunicación de los departamentos de análisis, los agentes bancarios o las atenciones al cliente cada vez están sustituidas, en mayor o menor medida, por sistemas de inteligencia artificial. Esto tiene un impacto evidente sobre el empleo y la forma en la que trabajamos, pero para comprender con mayor profundidad este impacto conviene entender mejor de que hablamos cuando nos referimos a comunicación. Al respecto de esta pregunta, John Searle1 desarrolló, junto a su maestro John Langshaw Austin, la Teoría de los Actos de Habla. Mediante esta teoría postularon que hablar, lejos de ser algo vinculado a lo ficticio o directamente virtual como solemos categorizar a todo lo que sucede en el medio de comunicación que es Internet, equivale a actuar sobre el mundo. Cuando hablamos llevamos a cabo una acción que tiene consecuencias, ya sean esta en la forma de enunciar un determinado hecho (actos locutivos), establecer un compromiso legal (actos ilocutivos) o amenazar o sorprender a nuestro interlocutor (actos perlocutivos). John Searle es también conocido por el experimento mental de la habitación china mediante el cual trataba de refutar que superar el Test de Turing no significa necesariamente que una máquina tuviese consciencia. Porque para Searle, comunicar (que para él implica actuar) no significa únicamente mandar mensajes, sino también que existe un estado consciente, una intencionalidad en términos de filosofía de la mente, en el emisor del mensaje. Searle trataba de mostrar con este ejemplo que se puede tener una interlocución capaz sin que exista consciencia en la habitación china, pues esta no se encuentra ni en quién escribe los caracteres sin saber qué hace, ni en los manuales de instrucciones, ni en la combinación de ambos. Pero entonces, ¿está comunicando una organización empresarial cuando establece un compromiso legal a través del ejemplo del crédito que hemos visto anteriormente? Si la comunicación la realiza un ser humano es ese el caso, ¿pero no lo es si la realiza una máquina? ¿Tiene menos validez el contrato por ello? La solución a esta pregunta la encontramos en el propio Searle por medio del concepto de «intencionalidad colectiva». La intencionalidad colectiva se produce en grupos de personas cuyos miembros son conscientes de estar trabajando conjuntamente de manera coordinada y distribuida. Son estas organizaciones las poseedoras de esta intencionalidad, respaldada por las mentes de cada uno de los stakeholders de las mismas involucradas en la acción, o, para este caso concreto, en el acto de habla. Hablaríamos en este https://telos.fundaciontelefonica.com/cuando-la-inteligencia-artificial-es-quien-habla/#nota-1 caso de actos de habla colectivos, realizados por una organización. Un buen ejemplo es la redacción de una ley o una norma por parte de un órgano colegiado. Sin embargo ¿cómo entra en este esquema la inteligencia artificial? Entra como canal de comunicación, como una herramienta del colectivo humano depositario de esta intencionalidad y que hace uso de ella. La inteligencia artificial per se carece de esta intencionalidad, al menos la basada en la tecnología que poseemos hasta la fecha, pero sí tiene la capacidad de enviar mensajes alineados con la intencionalidad comunicativa de la organización que la respalda, que en caso de no ser así no podríamos hablar de comunicación. El valor de nuestras mentes radicará en la intencionalidad ¿Qué implicaciones tiene esto tanto enel concepto de lo humano como en lo profesional? Por un lado que el empleo del lenguaje, al igual que en su día el cálculo numérico, el ajedrez, la percepción de los sentimientos del otro o la creatividad artística está dejando de ser patrimonio exclusivo de lo que considerábamos “lo humano”. Pero hoy en día, y no es previsible que esto cambie en mucho tiempo, la intencionalidad, que es el estado consciente en que se orienta nuestra mente hacia el mundo, no parece recreable por medios técnicos, por lo que seguiremos siendo por mucho tiempo imprescindibles para una auténtica comunicación… aunque sea canalizada por inteligencia artificial. Por supuesto, pensando en el empleo del presente y del futuro, serán necesarios profesionales que desarrollen, integren, mantengan y entrenen en sus funciones de habla a la inteligencia artificial. Pero en lo relativo a la comunicación, la parte esencial de toda organización humana, el valor de nuestras mentes radicará en la intencionalidad. Es decir, hacia donde y en qué contexto queremos orientar las acciones de nuestra comunicación. Del mensaje y del cómo se encargará la inteligencia artificial con la que, al menos en el plano organizativo, ya estamos hibridados. Artículos Inteligencia artificial, comunicación, arte y ciencia Publicado por fundacionbelen La inteligencia artifi cial o IA ha evolucionado de manera exponencial en los últimos meses, revolucionando ámbitos de la producción humana asociadas a sus capacidades superiores como la creación artística, la comunicación o la propia producción en el conocimiento científico. En un artículo publicado en la última revista Telos por Manuel Gertruix y José Luis Rubio-Tamayo trazan un buen mapa, con intensidad e interés, sobre la situación actual de la inteligencia artificial. Hacemos un breve resumen e indicamos el enlace para seguir leyendo. Es curioso que cuando nos referimos, en el imaginario colectivo, a la idea de la inteligencia artificial o IA, nos imaginamos una especie de máquina “capaz de hacerlo todo” y que sabe responder a cualquier pregunta que podamos plantearle. https://laterapiadelarte.com/category/articulos/ https://laterapiadelarte.com/author/fundacionbelen/ https://telos.fundaciontelefonica.com/inteligencia-artificial-comunicacion-arte-y-ciencia/ https://telos.fundaciontelefonica.com/inteligencia-artificial-comunicacion-arte-y-ciencia/ Entender el término «inteligencia artificial» (IA) es sumamente complejo, ya que sus rasgos y sus capacidades van evolucionando en cuestión de periodos de tiempo cada vez más cortos. Vayamos por partes. Las actuales IAs -y decimos actuales porque sabemos que las transformaciones tecnológicas son excesivamente rápidas – hacen funciones relativamente específicas y están diseñadas de un modo orientado a la especialización, cuyos resultados redimensionan el campo de la intervención humana. Sabemos muy poco de cómo funcionan realmente las IAs El problema, es que en la web hay desinformación, noticias falsas, propaganda y, por supuesto, también información valiosa y veraz, opiniones y visiones personales y, además, sobre cualquier tema que nos podamos imaginar. ChatGPT aprende de toda esta información, pero toda esa información no es sinónima per se de conocimiento, por las razones que acabamos de exponer. Ocurre lo mismo con inteligencias artificiales como MidJourney o Wombo Art, por poner solamente dos ejemplos de IAs en el campo de la generación de imágenes a través de texto insertado. Estas inteligencias artificiales son capaces de generar imágenes a partir de ideas, nociones y conceptos. La cuestión es que, por una parte, genera imágenes nuevas a partir de conceptos o imaginarios que se encuentran en nuestra memoria colectiva y que se plasma a partir de una especie de algoritmo de predominancia y probabilidades en base a un concepto determinado o una combinación de conceptos a través de capas de información. El aprendizaje de esa serie de conceptos asociados a la imagen es fundamental para la evolución de esa tecnología. La IA, sin duda, va a ayudarnos a realizar hallazgos sin precedentes en diferentes campos de la ciencia, incluso en ámbitos como las humanidades. Seguramente nos ofrezca aportaciones de gran valor en campos como la arqueología y la lingüística, incluyendo las lenguas ya extintas. También está claro que la IA va a ser fundamental para encontrar nuevos fármacos, empleos de fuentes de energía o incluso métodos de análisis en diferentes y diversos campos de estudio. Está facilitando la producción de contenido en diferentes áreas, si bien las particularidades de las soluciones en cada área específica deben de ser analizadas y estudiadas. La cuestión es qué funciones le asignamos a la inteligencia artificial y qué límites le ponemos para que sea una tecnología al servicio del conjunto de la humanidad. No sabemos si una hipotética IA fuerte puede llegar a tener potenciales intenciones autodestructivas o altruistas porque sabemos muy poco de cómo funcionan realmente las IAs. Y esto es porque realmente no sabemos demasiado, todavía, de cómo funciona nuestra propia inteligencia. De lo que no cabe duda es de que hemos llegado a un punto de inflexión tecnológico, un estado de presingularidad en el que cualquier desarrollo tecnológico potencial que podamos imaginar es inevitable de facto y que la implementación de este es una cuestión de tiempo y evolución. La IA va a evolucionar de una manera que todavía no nos podemos imaginar Con respecto a la producción artística estamos por ver, en los próximos meses y años, cuales van a ser las repercusiones en la medida en que se están desarrollando IAs para casi todos los campos de generación de contenidos previamente identificados con la producción artística. Tal vez el factor y la función humana se encuentre en la capacidad de desarrollar experiencias con estas nuevas herramientas, de componer un mashup de piezas artísticas en parte generadas por IAs en la medida en que la concepción del conjunto de la experiencia (un videojuego, una experiencia en realidad virtual, un concierto transmedia) va a suponer gran parte de las funciones de la persona. Al fin y al cabo, en el contexto actual, una IA es un sistema en el que introducimos inputs y nos da una serie de outputs potencialmente infinitos, lo que en el proceso creativo y de desarrollo puede, en ocasiones, llegar a ser un problema. Por otro lado, para concluir, no lo sabemos, pero tal vez esta idea de cómo la IA puede afectar a la producción artística en diferentes ámbitos nos pueda, además de tratar de crear arte disruptivo o con nuevos estilos, ayudar a recuperar valor de aquello elaborado por el ser humano con métodos analógicos o artesanales. Vivir la experiencia ya que el objeto pierde, tal vez, valor simbólico. Puede ser que, al fin y al cabo, lo más reconfortante sea ir a un concierto de rock en un bar pequeño o ir a una exposición de arte y donde la experiencia de vivir un evento cultural con más gente todavía no ha sido sustituida por nada. O tal vez no sea así y la IA encuentre la fórmula para que tengamos una simulación de experiencias todavía mejores. Todavía no lo ha hecho, pero no lo descartemos. P ● COMPARTIR ● 4 ● ● ● Poéticas del algoritmo POR LARO DEL RÍO La popularización de las inteligencias artificiales ha avivado un complejo debate ético y estético: ¿puede un algoritmo ser poeta? Ante una situación sin precedentes en la historia de la cultura, hemos de reflexionar sobre qué significa «ser autor» hoy. Our machines are disturbingly lively, and we ourselves frighteningly inert. Donna Haraway, «A Cyborg Manifesto» El monstruo de Frankenstein y la tecnofobia La máquina siempre ha generado miedo entre nosotros, los humanos1. En la literatura y el cine de ciencia ficción –que de primeras podrían parecer un canto a la creatividad del inventor o un intento feliz por aventurar cómo será el futuro– hemos tendido a narrar, de mil y una maneras distintas, esa desconfianza hacia lo mecánico y digital. Un buenejemplo lo encontramos en la que muchos consideran la primera novela de ciencia ficción. El doctor Frankenstein es presentado desde el subtítulo del libro como un moderno Prometeo, esto es, un ladrón que juega a robarles a los dioses y termina siendo castigado. De ahí que el resultado de su experimento no salga como esperaba: crea un monstruo deforme, https://telos.fundaciontelefonica.com/poeticas-del-algoritmo/#nota-1 imperfecto, asesino, que desata el terror allá donde va. Y el doctor queda condenado a perseguirlo de por vida, con el único objetivo de enmendar su error. Desde entonces, la tecnología ha aparecido en las ficciones como un enemigo en potencia. Será María en Metrópolis, el sabueso mecánico en Farenheit 451, HAL en 2001, la ciudad de las máquinas en Matrix, la ginoide rebelada en Ex Machina. Y hoy todavía más: desde el primer tercio del siglo XX estamos viviendo el auge de las distopías, que amplían la historia de nuestra sociedad hacia comunidades podridas, corruptas, autoritarias. Los progresos científicos del presente son fuente de ficciones especulativas desencantadas. El género scifi nos recuerda que el futuro en realidad está naciendo en este mismo ahora. Terminator, aún inexistente, nos vigila desde los años que están por venir. Si la IA nos gobernara En Membrana, Jorge Carrión (2021) presenta un mundo organizado por máquinas todavía más poderosas que el monstruo de Frankenstein o Terminator. Redes rizomáticas, algoritmos autoconscientes, circuitos, resistencias y transistores interconectados que forman una enorme mente digital que todo lo sabe y que todo lo domina. Aunque la propuesta de Carrión es un poco menos agorera que aquellas ficciones. La máquina es una extensión de nuestra biología Membrana especula: ¿qué sucedería con nosotros en ese mundo?, ¿qué sucedería con la humanidad? Desde luego, las máquinas tendrían un poder absoluto sobre nuestra supervivencia. Como de alguna manera lo tienen ahora: imaginen el colapso causado por un apagón tecnológico (o no lo imaginen y vean uno de los temores más habituales en tiempos recientes plasmados en series como L’effondrement o Apagón). Pero, además, las máquinas también tendrían un poder casi absoluto sobre nuestra identidad. ¿Qué es lo que nos hace humanos? En Membrana, la IA narradora es capaz de reconfigurar el discurso que nos define: relata otra historia de Occidente, describe a mujeres y hombres desde una lógica distinta a la del Homo Sapiens, reinventa nuestros museos, libros de texto y recuerdos a través de una óptica alternativa. Estas instituciones, que en tiempo pasado fueron mitologías de nuestra especie, terminan por resquebrajarse ante la perspectiva otra. El miedo a la máquina, por tanto, no es totalmente irracional. Un colapso económico, energético, industrial… pondría en riesgo la vida de millones de personas y, en ese sentido, es normal que nos resulte poco deseable. Pero no está tan claro que un «colapso cultural» pudiera provocar un efecto negativo análogo. La identidad humana, más que humana Tampoco se puede afirmar que las creaciones tecnológicas no tengan su lado perverso en el ámbito de la cultura. Generan dependencia, permiten usos malévolos. Ahora bien, en lo que tiene que ver con la configuración de la identidad humana, terreno siempre móvil, siempre inestable, no está probado que lo digital conlleve pobreza. El poshumanismo de Membrana sugiere que, en ciertos contextos, el dominio de la máquina no tendría por qué ser tan malo como los tecnófobos nos han hecho creer. Solo sería una etapa más, incluso podría decirse que una etapa lógica de nuestro desarrollo: somos nosotros los que, de alguna manera, hemos llegado hasta ahí y hemos creado nuestro futuro «no-humano». Inventar nueva tecnología es una habilidad fundada en la genética, en la evolución de la especie. Desde ese punto de vista, la máquina es una extensión de nuestra biología. Así, si bien la tendencia general en la cultura de Occidente es temer a la máquina, hay que admitir que, en el campo de lo estético, ceder el poder a la tecnología no nos aboca obligatoriamente al desastre. De hecho, en el arte lo natural es el cambio. Y las IA (nos) ofrecen una nueva revolución del paradigma. La novela de Carrión viene a recordar que adoptar nuevas perspectivas de vez en cuando puede ayudarnos a entender nuestra realidad (también, paradójicamente, nuestra identidad) un poco mejor. Arte autónomo vs. código binario Existen, sin embargo, muchos prejuicios que todavía minusvaloran la ficción de autoría digital. Un argumento esgrimido habitualmente para desprestigiarla, quizá el más consagrado en nuestra tradición, señala que una máquina nunca podrá producir una obra plenamente autónoma. Este razonamiento se fundamenta en el dogma de que lo estético no puede tener otra función que su esteticidad. La obra ha de provenir de una mente genial2, en el sentido romántico del término, una mente distinta y única, y deberá ser independiente del sistema establecido. Solo el gran artista encuentra un lenguaje propio para describir el mundo. Esto quiere decir que no es posible crear arte mediante el reciclaje, el plagio o el remake. No entra dentro de nuestros ideales que un epígono pueda estar a la altura del maestro. Si aceptamos esta óptica, las inteligencias artificiales serán el último eslabón de la cadena: el elemento más alejado de la originalidad estética, al lado de otros poco valorados como la copia, la reproducción, el facsímil o el duplicado. Porque las IA están preconfiguradas. Responden a unas normas impuestas de antemano, a un código pre-escrito. Y, por tanto, son el epítome de lo anticreativo. Pero, si nos detenemos a pensar en obras concretas, pronto nos daremos cuenta de que no existe ninguna verdaderamente autónoma, aislada de la realidad, sin componentes intertextuales más o menos explícitos. El Quijote recoge crítica literaria, a veces muy áspera, en contra de algunos libros de renombre (y cita títulos), al mismo tiempo que satiriza los comportamientos picarescos de la España del XVII. Se basa en la realidad y en los textos que le preceden para construir su propia ficción. Y, pese a todo, nadie diría que el Quijote sea una mala obra de arte. Ni que Cervantes sea un mal autor3. No queda otra que aceptar que no hay obra que se erija sobre la nada, con independencia de su realidad más cercana, según los gustos y las claves literarias de su época. Humanistas y filósofos como Boris Groys (2005) han expuesto con acierto cómo la innovación solo es posible desde la tradición. El argumento de la autonomía del arte se estrella contra el empirismo de la lectura y deja el camino abierto a la estética maquinal. El paradigma ciborg y la importancia del efecto https://telos.fundaciontelefonica.com/poeticas-del-algoritmo/#nota-2 https://telos.fundaciontelefonica.com/poeticas-del-algoritmo/#nota-3 Es desde estas premisas, ni demasiado entusiastas ni demasiado derrotistas, como creo que deben observarse las inteligencias artificiales en lo que respecta a la creación estética. Porque, en realidad, la obra de arte solo funciona en relación con lo establecido: renovando una forma literaria fosilizada, mezclando géneros, formas y temas preexistentes, buscando las cosquillas a prejuicios asumidos como certezas… Y todos estos «datos» pueden ser alimento de una IA literata en potencia. El concepto de obra tendrá que renovarse o morir No nos queda otra que abrazar la idea de que la tecnología se ha ganado su hueco en el Parnaso. Y eso está bien: no hemos de tenerle miedo a la máquina que teclea versos; no debería preocuparnos que la cultura mute, que nuestra identidad se deforme o que el canon artístico se desmorone (una vez más). Otra cosa será que esta situación nos obligue a repensar muchas rutinas, instituciones y valores. La palabra autor no podrá ser ya la misma. Las asignaturas de primaria y secundaria deberán virar hacia otros contenidos. El concepto de obra tendrá que renovarse o morir. Pero siempre hay que dejar algo atrás para continuaren movimiento. Las inteligencias artificiales no van a poder encontrar la fórmula mágica de la literatura. Más que nada porque no existe tal fórmula. Cada obra tiene sus propios códigos y resuelve un diálogo con sus lectores desde términos particulares. Pero de ahí no se deduce que una inteligencia artificial sea incapaz de componer eso que llamamos «una gran novela» o «un buen poema», entre muchas novelas y poemas fallidos. Los escritores humanos seguirán escribiendo. A su lado estarán las escritoras máquinas. Y, por supuesto, lxs escritorxs cíborgs, una simbiosis inevitable y de lo más interesante, que sin duda dará que hablar. Tal vez, por fin, esté llegando el día en que la literatura pasará de ser valorada principalmente por quién la hizo (o cuándo, cómo, por qué) y entrará a considerarse su efecto sobre los lectores. Pues, por mucho que los libros de texto de las escuelas todavía estén organizados como una lista de nombres propios, ¿quién duda, en el fondo, de que lo más importante de la literatura no ha sido siempre lo que nos han hecho sentir y pensar? Las IA, con sus muchas trabas (éticas, creativas, políticas…), pueden ser la mecha que ponga fin al paradigma biografista y memorístico en pos de un paradigma receptivo e interpretativo. Our machines are disturbingly lively, y eso es una gran oportunidad para la estética. Notas 1Es imposible ahondar aquí en los debates que las distintas ramas del poshumanismo han puesto sobre la mesa al diluir las fronteras entre lo real y lo virtual, lo humano y lo no-humano, lo geológico y lo biológico. Recomendamos a ese respecto la lectura, por citar un libro canónico, Lo Posthumano (Braidotti, 2015). Ahora nos interesa no tanto problematizar oposiciones ontológicas (las daremos por buenas en favor de la brevedad y la comprensibilidad del texto), sino hablar del poder creativo como gesto de agencia ambigua (humano y no-humano). 2Cabe recordar que genio proviene, etimológicamente, de genius, una especie de daimón o dios menor. Aparece de nuevo la relación clásica entre dios y creador, que ya vimos con Frankenstein. 3Solo podemos señalar en nota al pie, pero nos parece imprescindible, la semejanza latente entre el funcionamiento del complejo cerebro humano y el de las todavía no tan sofisticadas IA. Ambos cuentan con una estructura base (neuronal, de código) que consume y traduce cantidades ingentes de datos, hasta el punto de producir reacciones tan complejas de recorrer en su camino inverso (por qué hace lo que hace) que a nuestros ojos pueden parecer no-determinadas, impredecibles, azarosas,
Compartir