ASPECTOS ÉTICOS DE LA GESTIÓN DE LOS DATOS

Vista previa del material en texto

LA GESTIÓNLA GESTIÓN 
ÉTICA DE LOSÉTICA DE LOS 
DATOSDATOS
EQUIPO 4
 
 
INSTITUTO POLITÉCNICO NACIONAL
ESCUELA SUPERIOR DE CÓMPUTO
Introducción a la Ciencia de Datos
Prof. Dra, Fabiola Ocambo Botello
ENERO - JUNIO 2022
 
 
1CDV2
Karina Ivonne Fuentes Navarrete
Luis Antonio González Miranda
Karla Esther Escamilla Gachuz
 Con base en el diagnóstico se
implementaron estrategias de
intervención específicas.
EJEMPL
OS DE 
USO DE 
LOS 
DATOS
INDIA
2 0 1 0
National Science Foundation 
y
 National Institute of Health
Lanzan el Programa de Técnicas y
Tecnologías Fundamentales para el Avance
de la Ciencia e Ingeniería de Datos.
ESTADOS UNIDOS
 E IBM
Gestionaron el alto volumen de datos
que el gobierno acumulaba
RIO DE JANEIRO
Inauguró un centro de operaciones.
PAISES BAJOS
NUEVA YORK
LOS ÁNGELES,
CALIFORNIA
El potencial
del uso de
datos en el
sector
público
Actualmente vivimos en un universo poblado
de datos, donde vamos generando datos 
 mientras trabajamos, caminamos,
interactuamos, hablamos, protestamos o
buscamos información en línea.
Paralelamente a esta mayor disponibilidad
de datos y a la mejora de las capacidades
técnicas para utilizarlos, el sector público
también ha comenzado a reivindicar su
propio papel, consciente de que esta
información puede servir tanto para mejorar
la eficiencia en la prestación de servicios
sociales, de policía o de transporte público,
como para promover la transparencia, la
participación ciudadana y la rendición de
cuentas. 
2 0 0 2 e n
 IBM InfoSphere Stream IBM Big Data
s u r g e
Visualizar información 
procedente de miles de fuentes.
e n 2 0 1 2
Promover los medios científicos y tecnológicos.
ANALIZAR VISUALIZAR EXTARER
Información útil de conjuntos de macrodatos
diversos distribuidos y heterogéneos
e n
Acceso a una
mayor cantidad
de datos
provenientes de
diferentes
agencias
relacionados con
áreas de
gobierno.
Ayudar a las 
autoridades
locales
formular
mejores
políticas 
y tomar
mejores
decisiones
Construir modelos predictivos
que mejoren la toma de
decisiones en el ámbito local.
e j e m p l o
Detectar aquellos
negocios que tenían
más probabilidades
de no cumplir con
ciertos requisitos de
higiene.
Detectar
declaraciones
de impuestos 
posiblemente
fraudulentas.
Los datos se utilizan para
luchar contra el fraude
en las prestaciones
sociales.
D A T O S
F R A U D EFraude en el uso de los
servicios de cuidado 
infantil.
MARYLAND, ESTADOS
UNIDOS
M I C R O S O F T
Analizaron datos con el propósito de entender mejor
el desempeño de los estudiantes.
82,6% 
Permitieron
elevar la
proporción de
egresados en el
2016.
Determinar las
causas 
del abandono
escolar de los
estudiantes 
universitarios.
COLOMBIA
PAISES BAJOS
TIPOLOGÍA
DE
RIESGOS
ÉTICOS
Opacidad
Opacidad
Discrimi 
nación 
algorítmi 
ca
Privacidad
Desafíos 
en el 
uso de 
datos
Los entornos de datos, 
como la IA, reproducen 
las discriminaciones 
identificadas en el 
pasado, debido a los 
sesgos.
Surge el derecho a la 
explicabilidad
(transparencia sobre 
cómo se toman 
decisiones y derecho a 
corrección y 
comprensasiones).
La discriminación es 
un trato diferente y 
perjudicial que se da a 
una persona debido a 
categorizaciones 
arbitrarias o 
irrelevantes. 
Intervención
humana en la
gestión de los
sistemas
Influencia de
los datos sobre
la vida de las
personas
Preocupación 
por el uso, 
almacenamiento 
y destino de los 
datos
Opacidad Analfabeta. 
Falta de capacidades 
técnicas, hiere la confianza.
Opacidad Intrínseca. La 
complejidad del sistema 
impide explicarlo.
Opacidad 
Intencional. Por 
propiedad 
intelectual (Google).
Tratamiento lícito 
y transparente.
Fines explícitos y 
legítimos.
Adecuados y 
limitados al uso 
necesario.
Exactos y 
actualizados.
Sólo identificables 
en el periodo 
acordado.
Garantizar la 
seguridad.
1.
2.
3.
4.
5.
6.
Especial énfasis en la 
anonimización de los datos.
El RGPD de la
Unión Europea
define el
estándar de la
protección de
los datos.
Es necesario que 
la información 
esté disponible 
para ser juzgada.
Debemos saber qué 
información se recoge, 
cómo se anaiza.
Con quién se
comparte, qué
decisiones se
toman y en
base a qué
factores
Las personas muchas 
veces desconocen cómo 
funcionan los sistemas, 
llegando a compararlas 
con "cajas negras", 
bordeando lo mágico
Los datos de
las personas
necesitan
especial
atención
Marco
sectorial
Desde hace más de 30 años, se empezó a tomar
conciencia de la importancia de proteger los datos
personales para lo que se crearon documentos e
instituciones con dicha finalidad.
Marcos de referencia 
 en la gestión ética de
los datos
Inteligencia
artificial y
algoritmos
Marco
general
Principio para regular la
privacidad:
.-Principio de lacitud y lealtad
.-Principio de exactifud
.-Principio de finalidad
.-Principio de acceso de la persona
interesada
.-Principio de no discriminación
.- principio de seguridad
1990
RGPD, Naciones Unidas
Exige proactividad y
garantías a los organismos
procesadores y supervisores
de datos, protege al sujeto
de los datos y establece un
durísimo régimen
sancionatorio en los casos
de incumplimiento.
Data futures
partnership, Nueva
Zelanda
 Uso de los datos en torno
ea 3 ejes fundamentales
*Vlor
*elección
*protección
2018
2018
Amsterdam: Busca empezar
a auditar los 
algoritmos
Nueva York: Cuenta con un
grupo de trabajo encargado de
promover una ley municipal
Barcelona: Cuenta con una
directiva de datos que
incorpora elementos éticos y
algorítmicos
Ethical Aligned design
Integración de los
derechos humanos en los
avances tecnológicos y la
priorización del beneficio
máximo para la
humanidad y el ámbito
natural.
2016
E.U. NTRDA: Comprensión
de los desafíos legales,
éticos y sociales que
entraña la inteligencia
artificial para que el
desarrollo tecnológico no se
produzca en detrimento de
fines sociales y políticos, y la
seguridad de los sistemas
de IA
Canadá PAN-Canadian AI
strategy: desarrollo de una
herramienta en línea cuyo
propósito es facilitar la
identificación de riesgos
relativos a los algoritmos a
aquellas organizaciones que
los utilizan 2016
2018
Google: Se centra en los objetivos
de las tecnologías a desarrollar, y
plantea la necesidad de que estas
produzcan beneficios sociales, no
creen y/o refuercen sesgos, sean
seguras, permitan rendir cuentas,
incorporen elementos de
privacidad desde el diseño, se
basen en ciencia sólida y limiten
sus usos a las aplicaciones
beneficiosas
Ámbito 
público
Microsoft: Articular su propósito;
ser transparentes; incorporar
especificidades culturales; prevenir
el mal uso de la IA, y aceptar la
responsabilidad por su
funcionamiento e impacto.
Asimismo, se les insta a crear
sistemas en los que se pueda
confiar y que promuevan la
equidad, la justicia y la privacidad,
así como la seguridad de los datos
y el acceso a ellos
Ámbito 
privado
 Organización Mundial
de la Salud
transparencia, fines
legítimos y definidos para
la obtención de datos
pertinencia, actualidad y
adecuación, así como su
protección segura.
Sector salud
Seguridad 
ciudadana
Estados Unidos
Respecto a el reconocimiento
facial, se insiste en la
necesidad de contar con
mecanismos de transparencia,
fomentar las buenas prácticas
en el manejo de los datos, y
contar con criterios de
limitación de uso y
compartición de los mismos
Academia e
investigación
Cada universidad tiene la
posibilidad de plantear su propio
marco respecto a la gestión de
los datos a utilizar para sus
investigaciones y actividades, sin
embargo suelen variar mucho de
una universidad a otra dando
pie a vació que los malos
practicantes pueden aprovechar.
Propuesta de
criterios para
una gestión
ética de datos
Principales
criterios 
 Establecer la línea de referencia
de desempeño del proceso
Identificar los objetivos del
proyecto, las acciones a realizar y
el beneficio público que se
generará
Diseñar indicadores de
desempeño
Consentimiento
Anonimización/seudonimizaciónSeguridad de la información
Estándares por defecto
Datos abiertos
Identificación de las
personas beneficiadas o
afectadas y valoración
del impacto
 Mapear datos
disponibles y deseables
 Identificar sesgos
Creación del valor
público
Diagnóstico de
datos
Privacidad por
defecto/diseño
 Delimitar el papel de los datos en la toma de
decisiones
Diseñar estrategias de comunicación y participación de
la ciudadanía y los grupos de interés
Diseñar medidas de mitigación de sesgos
Diseñar mecanismos de rectificación y reparación de
errores
Diseñar mecanismos de monitoreo interno
Planificar la realización de evaluaciones una vez
implementado el proyecto
Recolección: En esta etapa el organismo público
obtiene los datos a través de distintas formas, sean
estas automatizadas o manuales
Almacenamiento: El objetivo de esta etapa es
mantener los datos protegidos de manera segura y
acceder a ellos cuando sea necesario
Análisis: En esta etapa se contemplan las actividades
de exploración y evaluación de los datos para extraer
información útil destinada a la toma de decisiones
Compartición: Los datos se pueden compartir dentro
de la misma institución, con entidades externas
como universidades u organismos sin fines de lucro,
o con proveedores como las empresas; también se
pueden ofrecer a la comunidad en formato de datos
abiertos
Archivo/eliminación: Esta etapa guarda algunas
similitudes con la de almacenamiento, en el sentido
de proteger los datos archivados y poder acceder a
ellos
Transparencia y
rendición de
cuentas
Diseño de gobernanza
institucional y definición de
capacidades necesarias
Diseño de pilotos y pruebas
en pequeña escala
previamente al despliegue del
sistema
Identificación de buenas
prácticas internacionales
existentes
Ciclo de vida de los datos
Se debe tener claro cuáles son las
personas que se verán beneficiadas o
afectadas y cuáles las inequidades que
se pueden producir, prestando especial
atención a los grupos minoritarios o
vulnerables
Es recomendable identificar a aquellos
que ya estén desarrollando este tipo de
iniciativas de manera exitosa para
incorporar sus aprendizajes
Se requiere entonces definir una
gobernanza del proyecto que
incorpore a un equipo diverso y
multidisciplinario
 Incorporar aprendizajes y mejorar
procesos
Ensayar el proyecto en pequeña escala