COMMENT PERMETTRE À L’HOMME DE GARDER LA MAIN ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle, @CNIL

Hoy traemos a este espacio este informe de la CNIL titulado " COMMENT PERMETTRE À L’HOMME DE GARDER LA MAIN ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle"
 SYNTHÈSE DU DÉBAT PUBLIC ANIMÉ PAR LA CNIL DANS LE CADRE DE LA MISSION DE RÉFLEXION ÉTHIQUE CONFIÉE PAR LA LOI POUR UNE RÉPUBLIQUE NUMÉRIQUE.

Ce rapport a été rédigé par Victor Demiaux avec le concours de Yacine Si Abdallah.

Además aprovechamos para felicitar por sus 40 años al CNIL , la commission nationale informatique & Libertés, dejándoos al final del post un video sobre su historia.

La CNIL publica el informe resumido del debate público que animó sobre los problemas éticos de los algoritmos y la inteligencia artificial. Isabelle FALQUE-PIERROTIN, presidenta de la CNIL, lo presenta hoy en presencia de Mounir MAHJOUBI, Secretario de Estado a cargo de Digital y Cédric VILLANI, MP, encargado por el gobierno con una misión sobre inteligencia artificial.
Como nos explican en la web de la CNIL

El informe se basa en los resultados de un debate público abierto y descentralizado que ejecutó la CNIL de enero a octubre de 2017: 3.000 personas participaron en 45 eventos  celebrados por iniciativa de 60 socios en Francia (Ax los términos, Burdeos, Caen, Lille, Lyon, Marsella, París, Toulouse) y en el extranjero (Estados Unidos). La consulta ciudadana también se organizó en Montpellier el 14 de octubre para completar el proceso.
Medios, vida pública y política, educación, cultura, salud, justicia, seguridad y defensa, banca y finanzas, empleo y reclutamiento fueron discutidos como campos de exploración de algoritmos e inteligencia artificial por parte de los socios: institutos de investigación (CREOGN, CNAM, ENSC, INSA), instituciones públicas (ministerios, universidades y grandes écoles), federaciones profesionales, sindicatos, colegios de abogados, hospitales, centros de estudios, empresas, etc.
Para Isabelle Falque-Pierrotin, presidenta de la CNIL:
El objetivo de este debate es garantizar que la inteligencia artificial aumente al hombre en lugar de suplantarlo y participe en el desarrollo de un modelo francés de gobernanza ética de la inteligencia artificial. Debemos garantizar colectivamente que estas nuevas herramientas estén en la mano humana, a su servicio, en un informe de transparencia y rendición de cuentas

¿Qué respuestas éticas al desarrollo de algoritmos e inteligencia artificial?

Hacia la afirmación de dos principios fundadores: lealtad y vigilancia


Les débats ont permis de dégager deux principes fondateurs pour une intelligence artificielle au service de l’homme. Ces principes pourraient s’inscrire dans une nouvelle génération de garanties et de droits fondamentaux à l’ère numérique, des « droits-système » organisant la gouvernance mondiale de notre univers numérique :
  • Un principio de lealtad  aplicado a todos los algoritmos e integrando los impactos colectivos, y no solo personales, de estos últimos. Cualquier algoritmo, ya sea que trate o no con datos personales, debe ser leal a sus usuarios, no solo como consumidores, sino también como ciudadanos, o incluso a comunidades o grandes intereses colectivos cuya existencia podría ser directamente afectado. El interés de los usuarios debe prevalecer . Por ejemplo, dicho principio podría aplicarse al impacto potencial de las redes sociales sobre la estructura del debate público en nuestras democracias (segmentación del cuerpo político a través de la focalización de la información) o al de los algoritmos. policía predictiva en comunidades enteras o vecindarios.
  • Un principio de vigilancia / reflexividad  : se trata de organizar una forma de cuestionamiento regular, metódico y deliberativo con respecto a estos objetos en movimiento. Este principio es una respuesta directa a las demandas impuestas por estos objetos tecnológicos debido a su naturaleza impredecible (inherente al aprendizaje automático)), el carácter muy compartimentado de las cadenas algorítmicas dentro de las cuales encajan, y, finalmente, la excesiva confianza a la que a menudo dan lugar. Son todos los eslabones de la cadena algorítmica (diseñadores, empresas, ciudadanos) los que deben movilizarse para dar sustancia a este principio, a través de procedimientos concretos (por ejemplo, comités de ética que garanticen un diálogo sistemático y continuo). entre las diferentes partes interesadas).
Estos principios fundacionales se complementan con principios organizacionales que abordan la inteligibilidad y la responsabilidad de los sistemas algorítmicos y la naturaleza de la intervención humana en la toma de decisiones algorítmicas.

Las 6 recomendaciones operacionales

Por último dejamos también el sumario del informe.
(leer más...)

Fuente: [ slideshare vía CNIL]

Comentarios