El futuro de la IA en el poder judicial: lanzamiento de la encuesta de la UNESCO sobre el uso de la IA por parte de los operadores judiciales
UNESCO
Sesión 363
El interés en la adopción de herramientas de inteligencia artificial (IA) por parte de los operadores judiciales está creciendo y su acceso a herramientas de IA generativa ha aumentado en los últimos años. Más recientemente, jueces, fiscales y abogados de todo el mundo han comenzado a utilizar chatbots impulsados por modelos de lenguaje grande (LLM) para redactar documentos legales, informes legales y elaborar argumentos en audiencias judiciales.
Sin embargo, es escasa la orientación formal sobre el uso adecuado de estas herramientas para personas u organizaciones del sector judicial. Sólo unos pocos países alrededor del mundo han emitido políticas, reglas o directrices sobre cómo los operadores judiciales podrían adoptar y utilizar estas herramientas de manera ética y responsable.
Estas herramientas pueden ayudar a jueces, fiscales, abogados, funcionarios de la administración jurídica e investigadores a mejorar la calidad de su trabajo al facilitar la búsqueda de información, automatizar tareas y apoyar los procesos de toma de decisiones.
Aunque las herramientas de IA pueden respaldar los objetivos centrales del sector judicial, el uso negligente de los sistemas de IA por parte de los operadores judiciales también puede socavar los derechos humanos, como el juicio justo y el debido proceso, el acceso a la justicia y a un recurso efectivo, la privacidad y la protección de datos, la igualdad ante la ley y la no discriminación, así como valores judiciales como la imparcialidad y la rendición de cuentas.
Esta sesión discutirá:
- Retos y oportunidades para el uso de la IA en el Poder Judicial.
- Implicaciones de la IA para los derechos humanos que el poder judicial debe estar preparado para abordar.
- Los resultados de la Encuesta de la UNESCO sobre el uso de la IA por parte de los operadores judiciales.
- Las aportaciones de la audiencia en la configuración de las Directrices para el uso de sistemas de IA en Juzgados y Tribunales.
En la sesión, la UNESCO presentará los resultados de su Encuesta sobre el uso de la IA por parte de los operadores judiciales. Esta encuesta recibió respuestas de más de 500 operadores judiciales de 96 países sobre su uso de IA generativa. La mayoría de los encuestados en la Encuesta indicaron la necesidad de directrices para los jueces y sus respectivas instituciones sobre el uso de la IA en contextos judiciales.
La Encuesta de la UNESCO será la base de las Directrices de la UNESCO para el uso de sistemas de inteligencia artificial en juzgados y tribunales, que actualmente están siendo objeto de consultas con expertos y múltiples partes interesadas.
Juan David es actualmente profesor asociado de la Universidad de los Andes. Anteriormente fue profesor de la Escuela de Estudios Internacionales, Políticos y Urbanos de la Universidad del Rosario. Su investigación se centra en políticas públicas, inteligencia artificial, competencia y regulación, y gobernanza de recursos naturales. Obtuvo su doctorado en Políticas Públicas de la Universidad de Oxford, luego de haber recibido su Maestría en Derecho y Economía (LLM) por la Universidad de Bolonia y la Universidad Erasmus de Rotterdam.
Amanda es abogada y politóloga con experiencia en derecho y tecnología, políticas públicas e investigación sociotécnica en IA. Su carrera se centra en cerrar la brecha entre las tecnologías emergentes y el estado de derecho. Sus principales temas de investigación han sido las políticas y regulaciones para combatir la desinformación, la alfabetización digital e informacional, la adopción responsable de la IA en el sector público y los desafíos actuales para la ética en la industria de la IA.
El profesor adjunto Anthony Wong es el presidente de la Federación Internacional para el Procesamiento de la Información (IFIP). IFIP es una organización internacional en tecnologías y ciencias de la información y las comunicaciones que cubre los cinco continentes con una membresía total de más de medio millón y vínculos con más de 4000 científicos del mundo académico y de la industria, en más de 100 grupos de trabajo técnicos. IFIP tiene su sede en Austria y se estableció bajo los auspicios de la UNESCO en 1960. Anthony preside el Grupo de Trabajo de IFIP sobre Gobernanza de IA, que se ocupa de las oportunidades emergentes, las cuestiones regulatorias y los desafíos que surgen del rápido despliegue de tecnologías de IA y el uso de datos en todos los segmentos. de la industria, la sociedad y el gobierno. Sus trabajos publicados recientemente con IFIP Springer Nature Switzerland AG incluyen “Ética y regulación de la inteligencia artificial” y “Las leyes y regulación de la IA y los sistemas autónomos”.
Anthony tiene una amplia experiencia como tecnólogo, innovador, académico, abogado y CIO con su doble titulación en TIC y derecho. Es el director de AGW Legal & Advisory, una práctica legal y de asesoría multidisciplinaria que asesora en muchas áreas de tecnologías emergentes, incluidas IA, gobernanza de datos, transformación digital, ciberseguridad, privacidad y protección de datos, y propiedad intelectual. Presidió el Panel Asesor de TIC del Gobierno de Nueva Gales del Sur de Australia y fue asesor de la Junta de TIC. Anteriormente formó parte del Consejo de Innovación Industrial del Departamento de Innovación, Industria, Ciencia, Investigación y Educación Terciaria de Australia. Es profesor adjunto de la Escuela de Tecnologías de la Información y las Comunicaciones, Facultad de Ingeniería, Computación y Ciencias de la Universidad Tecnológica de Swinburne, Campus de Sarawak.
Irakli Beridze, PhD, es el director del Centro de Inteligencia Artificial y Robótica de UNICRI, Naciones Unidas. Más de 20 años de experiencia liderando negociaciones multilaterales, desarrollando programas de participación de partes interesadas con gobiernos, agencias de la ONU, organizaciones internacionales, industria y corporaciones privadas, think tanks, sociedad civil, fundaciones, academia y otros socios a nivel internacional. Beridze asesora a gobiernos y organizaciones internacionales sobre numerosas cuestiones relacionadas con la seguridad internacional, los avances científicos y tecnológicos, las tecnologías emergentes, la innovación y el potencial disruptivo de las nuevas tecnologías, en particular sobre la cuestión de la prevención del delito, la justicia penal y la seguridad. Apoya a gobiernos de todo el mundo en estrategias, planes de acción, hojas de ruta y documentos de políticas sobre IA. Desde 2014, inició y gestionó uno de los primeros programas de las Naciones Unidas sobre IA. Iniciar y organizar una serie de eventos de alto nivel en la Asamblea General de las Naciones Unidas y otras organizaciones internacionales. Encontrar sinergias con amenazas y riesgos tradicionales, así como identificar soluciones que la IA pueda contribuir al logro de los Objetivos de Desarrollo Sostenible de las Naciones Unidas. Es miembro de varios grupos de trabajo internacionales, incluido el Consejo Global de Inteligencia Artificial del Foro Económico Mundial, el panel de alto nivel de las Naciones Unidas para la cooperación digital y el Grupo de Expertos de Alto Nivel en Inteligencia Artificial de la Comisión Europea. Con frecuencia da conferencias y habla sobre temas relacionados con el desarrollo tecnológico, tecnologías exponenciales, inteligencia artificial y robótica y seguridad internacional. Tiene numerosas publicaciones en revistas y diarios internacionales y es citado frecuentemente en los medios sobre temas relacionados con la IA. Irakli Beridze es una defensora internacional de género que apoya el Compromiso de Paridad del Panel del CIG. Recibió un reconocimiento por la concesión del Premio Nobel de la Paz a la OPAQ en 2013.
Miriam Stankovich tiene una rica experiencia en investigación en la dirección de proyectos complejos en protección y gobernanza de datos, propiedad intelectual y derecho tecnológico, evaluación del impacto regulatorio de tecnologías emergentes (IA, Blockchain, IoT, realidad virtual/aumentada e impresión 3D) y transferencia de tecnología. También se ha desempeñado como asesora jurídica y de políticas senior para importantes organizaciones internacionales como la Unión Internacional de Telecomunicaciones, el Banco Mundial, la Organización Mundial de la Propiedad Intelectual, la Corporación Financiera Internacional, la Organización de las Naciones Unidas para el Desarrollo Industrial, el Instituto Interregional de las Naciones Unidas para Investigaciones sobre la Delincuencia y la Justicia. , Programa de las Naciones Unidas para el Desarrollo, Banco Interamericano de Desarrollo, Banco Africano de Desarrollo, Unión Africana y Unión Europea.
Fue becaria Fulbright en propiedad intelectual y derecho tecnológico en la Facultad de Derecho de la Universidad de Duke y becaria McNamara del Banco Mundial en economía del desarrollo, derechos de propiedad intelectual y transferencia de tecnología en la Facultad de Políticas Públicas de la Universidad de Duke. Es autora de numerosos artículos, libros, monografías, capítulos de libros, leyes e informes gubernamentales revisados por pares en propiedad intelectual internacional, transferencia de tecnología, innovación, políticas públicas y regulación de tecnologías emergentes.
Caitlin Kraft-Buchman es directora ejecutiva y fundadora de Women at the Table y cofundadora de la <a+>Alliance for Inclusive Algorithms. La Alianza < A+ >, fundada en 2019, es una coalición global de tecnólogos, activistas y académicos que defienden la IA inclusiva y la acción afirmativa para los algoritmos para que nos acerquemos a la creación de igualdad racial y de género en un mundo donde el aprendizaje automático ya no conecta a sistema sesgado en nuestro futuro. <a+>Alliance son líderes de la Coalición de Acción para la Tecnología y la Innovación del Foro Generación Igualdad. Women at the Table, fundada en 2015, es una OSC global en crecimiento para la igualdad de género y la democracia con sede en Ginebra, Suiza, centrada en promover el cambio de sistemas feministas mediante el uso del prisma de la tecnología, la innovación y la inteligencia artificial, y ejerciendo puntos de influencia en la tecnología, la economía, Sostenibilidad y gobernanza democrática. Caitlin también es cofundadora de International Gender Champions, fundada en 2015, con sede en Ginebra y centros en Nueva York, Viena, Nairobi, La Haya y París, una red de liderazgo de mujeres y hombres tomadores de decisiones que derriban las barreras de género para cambio de sistema.
La Dra. Rachel Adams es la investigadora principal de Research ICT Africa, donde dirige el Centro AI4D Africa Just AI, es la directora del Observatorio Africano sobre IA Responsable y es la investigadora principal del Índice Global de IA Responsable.
Rachel es miembro del Comité de Expertos de la UNESCO para la implementación de la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, miembro asociado del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge, investigadora asociada de Derecho y Política de la Información. Center de la Universidad de Londres e investigador asociado de Tayarisha: Centro Africano de Excelencia en Gobernanza Digital de la Universidad de Witwatersrand, Johannesburgo. Rachel fue anteriormente especialista en investigación jefe en el Consejo de Investigación en Ciencias Humanas de Sudáfrica.
Rachel ha publicado ampliamente en áreas como IA y sociedad, género e IA, transparencia, datos abiertos y protección de datos.
Prateek Sibal es especialista de programas en la Sección de Políticas Digitales y Transformación Digital del Sector de Comunicación e Información de la UNESCO. En este marco, coordina el trabajo del Sector sobre inteligencia artificial y transformación digital con especial atención al poder judicial y a los responsables políticos. Su trabajo abarca investigación, promoción, asesoramiento político y desarrollo de capacidades para la gobernanza de las tecnologías digitales. Enseña gobernanza digital en Sciences Po, París.

El Dr. Tawfik Jelassi fue nombrado Subdirector General de Comunicación e Información de la UNESCO el 1 de julio de 2021. En este cargo, es responsable de los programas de la Organización para la construcción de sociedades del conocimiento inclusivas, liderando la transformación digital, elaborando estrategias para el papel de las TIC en la educación y fomento de la libertad de expresión.
El Dr. Jelassi tiene un doctorado. doctorado en sistemas de información por la Universidad de Nueva York (EE.UU.) y diplomas de posgrado por la Universidad de París Dauphine (Francia).
El Dr. Jelassi tiene una amplia experiencia en educación superior, investigación científica y tecnologías de la información y la comunicación. Ocupó cargos de liderazgo académico, corporativo y gubernamental en Europa, Estados Unidos y Túnez.
Entre otros, fue Director de Programa y Profesor de Gestión Estratégica y Tecnológica en IMD Business School de Lausana (Suiza, 2015 – junio de 2021). Antes de eso, se desempeñó como Ministro de Educación Superior, Investigación Científica y Tecnologías de la Información y las Comunicaciones en el gobierno de transición democrática de Túnez (2014-2015). Sus nombramientos anteriores incluyeron ser presidente de la junta directiva de Ooredoo Telecom en Túnez, decano de la Ecole Nationale des Ponts et Chaussées (París) y profesor y presidente del Departamento de Gestión de Tecnología de INSEAD (Fontainebleau).
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
El Evento de Alto Nivel se centrará en el lanzamiento de los resultados de la Encuesta de la UNESCO sobre el uso de la IA por parte de los operadores judiciales. Su objetivo será discutir formas en que el poder judicial puede utilizar las herramientas de IA dentro de sus funciones de manera responsable y ética, con el objetivo de dar forma a las Directrices de la UNESCO para el uso de sistemas de IA en juzgados y tribunales. Esto está en consonancia con las líneas de acción C4 (creación de capacidades) y C5 (creación de confianza y seguridad en el uso de las TIC) de la CMSI.
-
Objetivo 5: Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
La sesión busca discutir los beneficios y riesgos de los sistemas de IA, incluidos los sistemas de IA generativos, así como considerar las necesidades de desarrollo de capacidades de los actores judiciales en estos temas. Al hacerlo, la sesión profundizará en riesgos como el sesgo algorítmico en los sistemas de IA, incluidos los sesgos de género y raciales, entre otras formas de discriminación que surgen. Además, el lanzamiento de los resultados de la Encuesta de la UNESCO sobre el uso de la IA por parte de los operadores judiciales informará el desarrollo de las Directrices que brindarán orientación sobre cómo aprovechar los beneficios y riesgos de los sistemas de IA a nivel nacional, regional y global de la gobernanza de la IA. De este modo, la sesión está alineada con el ODS 5 (lograr la igualdad de género y empoderar a todas las mujeres y niñas), el ODS 16 (promover sociedades justas, pacíficas e inclusivas) y el ODS 17 (revitalizar la asociación mundial para el desarrollo sostenible).