Gobernanza Algorítmica

Vista previa del material en texto

Vanguardia de la gobernanza de 
Internet 
Gobernanza Algorítmica
Micaela Mantegna
mmantegna@udesa.edu.aR 
micaela@geekylegal.com
1/.MACHINE INTELLIGENCE
PIENSAN LOS ANDROIDES CON 
NEURONAS ELECTRICAS?
PRECONCEPTOS
O 
PREJUICIOS
MACHINE INTELLIGENCE
NEUTRALIDAD Y EFICACIA INFALIBLE
LAS MÁQUINAS NO PIENSAN, SE PROGRAMAN
COMPUTER SAYS NO...
1. razonamiento logico
2. representacion del conocimiento
3. procesamiento de lenguaje natural
4. percepcion
5. planificacion y navegacion 
(Chen, 2016)
 
.
MACHINE INTELLIGENCE //> DESAFIOS
(1) sistemas que piensan como humanos (arquitecturas cognitivas y 
redes neuronales)
(2) sistemas que actuan como humanos (capaces de usar lenguaje 
natural para pasar el test de Turing)
(3) sistemas que piensan racionalmente (solvers, inferencia y 
optimizacion)
 (4) sistemas que pueden actuar racionalmente (agentes artificiales 
y robots con habilidades de percepcion, planificacion, razonamiento, 
toma de decisiones, autonomia para actuar y aprendizaje)
 
.
MACHINE INTELLIGENCE //> TAXONOMIA
La pregunta de si las máquinas pueden pensar es tan 
irrelevante como la de si los submarinos pueden nadar, o 
si los aviones pueden volar como un pájaro. Se desplazan 
por el agua y por el aire aunque no necesariamente de la 
misma forma en que lo hacen los animales. En los temas 
de AI ocurre lo mismo, realizan tareas que los humanos 
realizan y pueden arribar a resultados parecidos, pero 
eso no implica que sigan los mismos procesos.
 
.
MACHINE INTELLIGENCE //> 
este estado del arte las máquinas y los algoritmos que 
las propulsan no tienen conciencia, ni son 
autoreflexivas, y no exhiben aspiraciones de 
independencia ni deseos personales, son brutalmente 
eficientes en las tareas especificas asignadas y 
persiguen su objetivo inexorablemente, pero no poseen 
una inteligencia general (Kaplan, 2015)
 
.
MACHINE INTELLIGENCE //> TAXONOMIA
MACHINE INTELLIGENCE //> TAXONOMIA
“NARROW” AI
“GENERAL” AI (AGI)
AI SUPERINTELLIGENCE (ASI)
INTELIGENCIA ARTIFICIAL 
MACHINE LEARNING
INTELIGENCIA 
ARTIFICIAL SISTEMAS CAPACES DE ACTUAR 
CON INTELIGENCIA
MACHINE 
LEARNING
SISTEMAS CAPACES DE APRENDER 
DE LA EXPERIENCIA 
CHINESE ROOM DILEMMA
DISTINTOS 
ENFOQUES
SISTEMAS EXPERTOS APRENDIZAJE AUTOMATICO
KNOWLEDGE 
ENGINEERING
ENFOQUE CUALITATIVO 
EN LAS REGLAS
RIGIDO
MACHINE LEARNING
ENFOQUE 
CUANTITATIVO EN LA 
CANTIDAD DE DATOS
FLEXIBLE
GATO
SISTEMAS EXPERTOS APRENDIZAJE 
AUTOMATICO
ANIMAL FELINO, QUE 
TIENE COLA, OREJAS, 
BIGOTES, CUATRO 
PATAS, 
QUICK DRAW
Can a neural network learn to recognize doodling?
https://quickdraw.withgoogle.com/
http://www.youtube.com/watch?v=X8v1GWzZYJ4
https://quickdraw.withgoogle.com/
CONFUNDIENDO A LAS AI
AYUDANDO A LAS AI
Posibilidades de aprender, en base a alimentar un algoritmo 
(learner) con inmensas cantidades de datos, y lograr que este se 
retroalimente de los resultados de sus procesos, realizando las 
adaptaciones necesarias para su objetivo.
Machine Learning es uno de los subcampos de la IA
2/.EL ROL DE LOS DATOS
TRANSICIÓN
explosión de la economía de los datos
SOCIEDAD DE LA INFORMACIÓN 
(INFORMATION SOCIETY)
Transición hacia una 
economia digital immaterial
SOCIEDAD ALGORÍTMICA
(DATA DRIVEN SOCIETY)
Sociedad asistida por decisiones 
algorítmicas basadas en datos
INTERACCIONES DIGITALES
COTIDIANAS
 PRODUCEN DATOS 
 COMO SUBPRODUCTO
INTERNET DE LAS COSAS (IOT)
INTERACCIÓN REGISTRO DATO
SALUD
BIOMETRICOS
HABITOS DE 
CONSUMO
PODER ADQUISITIVO
GUSTOS Y 
PREFERENCIAS
44 zettabytes
>>Se pronostica que el número de dispositivos conectados a direcciones IP, va a ser para el 2020, 
tres veces mayor que la población global mundial.
>>1 zettabyte es equivalente a 152 millones de años de video UHD 8K 
AÑO 2020
3/.GOBERNABILIDAD ALGORITMICA
 secuencia de instrucciones que se llevan a cabo 
sistemicamente para transformar una entrada 
(input) en una salida (output) (Alpaydin, 2016)
ALGORITMO
 
CONTROL sobre debilidades o posibles 
distorsiones en la construcción de estos modelos 
que puedan determinar un resultado sesgado, 
discriminatorio, injusto o inescrutable
GOBERNABILIDAD ALGORITMICA
DE
CONSTRUYENDO 
LOS MODELOS
ALGORITMICOS
MODEL SELECTION
SELECCION DEL ALGORITMO
PARAMETER TUNING
AJUSTE DEL ALGORITMO PARA OPTIMIZAR 
RESULTADO
DATA CLEANING
PREPARACION DE LOS DATASETS
METRICAS DE EVALUACION
Evaluacion de resultados, validacion y 
seleccion del modelo
>TASK DRIVEN una serie de ejemplos de entrada y de salidas 
deseadas, poniendo en cabeza del algoritmo identificar el modelo 
o patrón. Problemas de clasificacion y regresion DETECCION 
DE FRAUDE, MOTORES DE RECOMENDACIONES
ALGORITMOS DE APRENDIZAJE AUTOMÁTICO
SUPERVISADO
NO SUPERVISADO
>DATA DRIVEN se presenta el data set sin las salidas y el 
objetivo del algoritmo es descubrir correlaciones entre ellos. 
identificar las regularidades dentro de grandes cantidades de 
información para poder predecir un resultado, es decir, en el 
reconocimiento de patrones (pattern recognition). 
COMPORTAMIENTO DE CONSUMIDORES, IMAGEN, ANOMALIAS
POR REFUERZO >INTERACCION CON EL ENTORNO Agentes artificiales que 
aprenden de recompensas. Intuitive learning 
Entorno 
Agente 
Recompensa 
(reinforced signal)Estado Acción
Figura basica del aprendizaje por refuerzo, donde el agente interactua con su entorno. Ante un estado del ambiente 
el agente toma una accion que cambia el estado del escenario y puede o no determinar una recompensa. (Alpaydin, 
Ethem, Machine Learning, pág. 126, figura 6.1
REINFORCED LEARNING
SELECCION DEL 
MODELO
a. aprendizaje supervisado (supervised learning)
i. K-means clustering
ii. Principal component analysis
iii. Association rules
iv. Social Network Analysis
b. aprendizaje no supervisado (unsupervised learning)
i. Regression analysis
ii. K-nearest neighbors
iii. Support Vector Machine
iv. Decision Tree
v. Random Forest
vi. Neural Networks
c. aprendizaje por refuerzo (reinforced learning)
i. Multi armed bandits
4/.DIMENSIONES DE LA 
GOBERNABILIDAD ALGORITMICA
DIM
EN
SIO
NE
S
1.ALGORITHMIC AWARENESS
2. PERVASIVIDAD
3.SESGO //> EN DATOS Y EN MODELOS
4.OPACIDAD /TRANSPARENCIA
5. ACCOUNTABILITY
6.EXPLAINABILITY / INTERPRETABILITY
7.INCLUSION / FAIRNESS
DIM
EN
SIO
NE
S
1.ALGORITHMIC AWARENESS => VISIBILIDAD
●
● Distintos usos de algoritmos de prediccion
● Ser conscientes de que estan en juego
● Avisos de interacción
2. PERVASIVIDAD
DIM
EN
SIO
NE
S
3.SESGO //> EN DATOS Y EN MODELOS
● ETICA = El rol de la comunidad tecnica: bias como 
innacuracy de los modelos.
DATOS DE ENTRADA CONSTRUCCION DEL MODELO
DIM
EN
SIO
NE
S
4.OPACIDAD /TRANSPARENCIA
● ALGORTIMOS Y MODELOS ABIERTOS
● PATENTES, COPYRIGHT, TRADE SECRETS
● OPEN SOURCE Y COPYLEFT
COMPLEJIDAD TECNICA
OPACIDAD LEGAL PROPIEDAD INTELECTUAL
DIM
EN
SIO
NE
S
● Conocer el funcionamiento de los modelos
● Cuales son los limites de las Black boxes
● Interpretabilidad desde el diseño
● No basta la eficacia del resulta, sino tambien la 
explicabilidad
● Sin estos parametros no se puede haber 
accountability
5. ACCOUNTABILITY
6.EXPLAINABILITY / INTERPRETABILITY
DIM
EN
SIO
NE
S
7.INCLUSION / FAIRNESS
exportacion de 
soluciones algoritmicas 
no adaptadas a 
idiosincracias 
regionales 
http://www.youtube.com/watch?v=wrEfsdnqaDE
5/.AI POLICY LANDSCAPE
A.I.
POLICY 
LANDSCAPE
AUTONOMOUS SYSTEMS
ALGORITHMIC SENTENCING
PREDICTIVE POLICING
CONTENT REMOVAL / FAKE NEWS
ALGORITHMIC PRICING
AUTOMATED DECISION POLICY
AI POLICY LANDSCAPE
_____________________
NORMATIVAS RELEVANTES PARA EL 
ENTORNO AI
1. DATA PROTECTION LAW
2. INTELLECTUAL PROPERTY LAW
3. CONSUMER LAW
4. COMPETITION LAW
5. CRIMINAL LAW
DATA 
PROTECTION 
LAW
REMOCION DE DATOS
DERECHO A LA “EXPLICACION”
REVISION DE LA DECISION
GOT DATA?
REMOVER INFORMACIÓN ES PERJUDICIAL PARA LA EFICACIA DE LOS MODELOS Y PUEDE CONDUCIR EN 
LA PRACTICA A PONER AL AFECTADOEN PEOR SITUACION POR 
FALTA DE REPRESENTATIVIDAD
>art. 20 de la ley 25.326 fulmina de nulidad las decisiones judiciales o los actos 
administrativos que impliquen apreciación o valoración de conductas humanas 
cuando tengan “...como único fundamento el resultado del tratamiento 
informatizado de datos personales que suministren una definición del perfil o 
personalidad del interesado…”.
> art. 13 de la ley 1845 estipula como derechos de los titulares de datos 
personales el derecho de acceso, el cual incluye “que se le informe acerca de la 
identidad de las personas a las que se le hubieran cedido datos relativos a su 
persona, del origen de los datos incluidos en el archivo, registro, base o banco de 
datos consultado, y de la lógica utilizada en los tratamientos automatizados de 
datos que se hubieran realizado.”
REGULACION //> ARGENTINA
>‘Profiling’ article 4 GDPR 
«elaboración de perfiles»: toda forma de tratamiento automatizado de datos personales 
consistente en utilizar datospersonales para evaluar determinados aspectos personales de una 
persona física, en particular para analizar o predecir aspectos relativos al rendimiento 
profesional, situación económica, salud, preferencias personales, intereses, fiabilidad, 
comportamiento, ubicación o movimientos de dicha persona física; 
.
REGULACION //> EUROPA
>Article 13(2)(g) of the GDPR
Además de la información mencionada en el apartado 1, el responsable del 
tratamiento facilitará al interesado la siguiente información necesaria para 
garantizar un tratamiento de datos leal y transparente respecto del interesado: 
g) la existencia de decisiones automatizadas, incluida la elaboración de perfiles, a 
que se refiere el artículo 22, apartados 1 y 4, y, al menos en tales casos, 
información significativa sobre la lógica aplicada, así como la importancia y las 
consecuencias previstas de dicho tratamiento para el interesado. 
REGULACION //> EUROPA
>Artiulo 22 GDPR Artículo 22
Decisiones individuales automatizadas, incluida la elaboración de perfiles
1. Todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento 
automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte 
significativamente de modo similar.
2. El apartado 1 no se aplicará si la decisión:
a) es necesaria para la celebración o la ejecución de un contrato entre el interesado y un responsable del tratamiento;
b) está autorizada por el Derecho de la Unión o de los Estados miembros que se aplique al responsable del tratamiento
y que establezca asimismo medidas adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del
interesado, o
c) se basa en el consentimiento explícito del interesado.
3. En los casos a que se refiere el apartado 2, letras a) y c), el responsable del tratamiento adoptará las medidas
adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del interesado, como mínimo el derecho a
obtener intervención humana por parte del responsable, a expresar su punto de vista y a impugnar la decisión.
4. Las decisiones a que se refiere el apartado 2 no se basarán en las categorías especiales de datos personales
contempladas en el artículo 9, apartado 1, salvo que se aplique el artículo 9, apartado 2, letra a) o g), y se hayan tomado
medidas adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del interesado. 
REGULACION //> EUROPA
GOBIERNO DE LOS 
ALGORITMOS
LOS ALGORITMOS 
NOS GOBIERNAN A 
TRAVÉS DE 
NUESTROS DATOS
GOBERNABILIDAD 
ALGORITMICA
MECANISMOS DE 
GOBERNANZA SOBRE 
LOS ALGORITMOS
mmantegna@udesa.edu.ar
WWW.GEEKYLEGAL.COM
@GEEKYLEGAL
EL LADO NERD DEL DERECHO
http://www.geekylegal.com