Resumo de Informática Básica (29)

Vista previa del material en texto

Adquisición  de  IA
Una  toma  de  control  de  la  IA  es  un  escenario  hipotético  en  el  que  la  
inteligencia  artificial  (IA)  se  convierte  en  la  forma  dominante  de  
inteligencia  en  la  Tierra,  con  programas  informáticos  o  robots  arrebatando  
efectivamente  el  control  del  planeta  a  la  especie  humana.
El  problema  del  control  de  la  IA  es  la  cuestión  de  cómo  construir  un  
agente  superinteligente  que  ayude  a  sus  creadores  y  evite  construir  
inadvertidamente  una  superinteligencia  que  perjudique  a  sus  creadores.  
Algunos  estudiosos  sostienen  que  las  soluciones
Los  posibles  escenarios  incluyen  la  sustitución  de  toda  la  fuerza  laboral  
humana,  una  toma  de  control  por  parte  de  una  IA  superinteligente  y  la  
noción  popular  de  un  levantamiento  de  robots.
Algunas  figuras  públicas,  como  Stephen  Hawking  y  Elon  Musk,  han  
abogado  por  la  investigación  de  medidas  de  precaución  para  garantizar  
que  las  futuras  máquinas  superinteligentes  sigan  bajo  control  humano.
Machine Translated by Google
El  problema  del  control  también  puede  encontrar  aplicaciones  en  la  IA  no  
superinteligente  existente.
Los  principales  enfoques  para  el  problema  del  control  incluyen  la  
alineación,  que  tiene  como  objetivo  alinear  los  objetivos  de  los  sistemas  
de  IA  con  los  valores  humanos,  y  el  control  de  capacidades,  que  tiene  
como  objetivo  reducir  la  capacidad  de  un  sistema  de  IA  para  causar  daño  
a  los  humanos  o  ganar  control.
Un  ejemplo  de  "control  de  capacidad"  es  investigar  si  una  IA  de  
superinteligencia  podría  confinar  con  éxito  en  una  "caja  de  IA".
Machine Translated by Google