Publicaciones académicas

Sección donde se pueden consultar artículos, capítulos de libros y libros académicos relacionados con sistemas de algoritmos e IA que fueron producidos por integrantes de nuestro equipo.

Artículos académicos:

Hacia una inteligencia artificial centrada en los seres humanos: contribuciones de las ciencias sociales

2025-07-25

Esta introducción al dossier de la Revista de Estudios Sociales, dedicado a la relación entre las ciencias sociales y la inteligencia artificial (IA), parte de la premisa de que las ciencias sociales no solo tienen un papel fundamental en analizar y comprender las profundas transformaciones en la vida humana que ha implicado la irrupción de la IA, sino que también, y principalmente, tienen una función esencial en guiar el desarrollo futuro de la IA para que esté alineado con el bienestar humano y el desarrollo individual. Para asegurarnos de que el diseño, desarrollo, uso y evaluación de los sistemas de IA estén centrados en los seres humanos, necesitamos las herramientas conceptuales, los datos experimentales y la experiencia trabajando con diversas comunidades que pueden proporcionar las ciencias sociales.

Use of AI tools in the Colombian Judiciary: Findings from Three Surveys

2025-06-30

This paper aims to answer three main questions regarding the use of artificial intelligence (AI) tools in the Colombian judiciary. First, what type of AI tools do judges and judicial staff in Colombia access and use? Second, how and for what purposes are these AI tools used? Third, do demographic factors (e.g., age, gender) influence how judges and judicial staff approach AI tools? This paper is based on three comprehensive surveys conducted in 2024. Two surveys conducted by the authors targeted participants in the course ”Artificial Intelligence for the Administration of Justice: Fundamentals, Applications, and Best Practices”, offered by the Universidad de los Andes and the Superior Council of the Judiciary (CSdJ). A total of 1,391 judicial staff members responded at the start of the course, and 824 responded at its conclusion. A third survey, conducted later by the CSdJ, gathered responses from 3,152 judicial personnel.

Transparencia algorítmica y Estado Abierto en Colombia

2023-12-30

En los últimos años se ha producido un rápido avance y despliegue del uso de sistemas de toma automatizada de decisiones (SDA) tanto en el sector público como en el privado alrededor del mundo, incluida Colombia. Por otra parte, la mayoría de las guías y marcos éticos asociadas con el desarrollo y uso de IA incluyen como uno de los principales valores la “transparencia”. Paradójicamente, son pocas las entidades estatales del nivel nacional y/o local que informan de manera sistemática y estandarizada sobre el uso de dichos sistemas.

Adopción de sistemas de decisión automatizada en el sector público: Cartografía de 113 sistemas en Colombia

2023-09-25

La literatura sobre el uso de sistemas de decisión automatizada (SDA) en el sector público ha dado cuenta de su creciente adopción en América Latina. En el caso de Colombia, no existen trabajos que mapeen y caractericen de forma sistemática el uso de SDA por parte del Estado. Este artículo contribuye a cerrar esa brecha en la literatura a partir del análisis de una nueva base de datos sobre 113 SDA de entidades del sector público colombiano, de los cuales 97 se encuentran en funcionamiento (86%), 14 en pilotaje (12%) y dos más que fueron descontinuados.

Presentación de número: Retos de la gobernanza de datos y de inteligencia artificial en el sector público Iberoamericano

2023-09-25

El sector público de Iberoamérica enfrenta nuevos desafíos en relación con la gobernanza de datos y el uso de sistemas de decisión automatizada (SDA). Por una parte, los Estados cada vez recolectan y generan un volumen más grande y variado de datos en el ejercicio de sus funciones. Por otra parte, cada vez más entidades públicas nacionales y subnacionales de Iberoamérica están adoptando SDA para el cumplimiento de sus funciones.

Capítulos en libros:

Artificial intelligence in Latin America’s public policy cycles

2025-06-05

This chapter aims to contribute to the literature by examining how AI systems adopted

by public bodies in Latin America support activities associated with the main stages of the

public policy cycle: agenda-setting, formulation, implementation, and evaluation. For that

purpose, we used three criteria to select the cases: (a) functions and tasks performed with

the AI systems, (b) countries that adopted them, and (c) availability of information about

their implementation. We selected a variety of systems that illustrate diverse technologies and

government sectors from different countries of the region. The chapter offers examples from

14 AI systems implemented in Argentina, Brazil, Chile, Colombia, Guatemala, Honduras,

Mexico, and Peru between 2015 and 2022.

Proactive algorithmic transparency in government: the case of the Colombian repositories of public algorithms

2025-02-06

The adoption of artificial intelligence (AI) and other algorithmic technologies in the public sector is expanding around the globe, and transparency is one of the most common principles in AI guidelines. However, only a few national and sub-national governments proactively inform citizens about using automated decision-making (ADM) systems. This chapter aims to analyze how repositories of public algorithms can contribute to proactive algorithmic transparency. For that purpose, we study the case of the Colombian national government’s repositories, a unique case in Latin America, regarding the levels of transparency regarding the acquisition, development, piloting, adoption, and use of AI systems and robotic process automation (RPA). The chapter also presents the results of a novel database of 113 ADM systems in the Colombian public sector. We conclude that while the government publishes significant amounts of data about its ADM systems, the publicly available information is insufficient to make the algorithmic processes truly accountable in Colombia. This research follows a case study approach in which quantitative and qualitative data about algorithmic transparency in Colombia were collected and processed.

Chapter 24: Critical appraisal of large language models in judicial decision-making

2024-06-21

This timely Handbook explores the relationship between public policy and artificial intelligence (AI) technologies across a broad range of geographical, technical, political and policy contexts. It contributes to critical AI studies, focusing on the intersection of the norms, discourses, policies, practices and regulation that shape AI in the public sector. This title contains one or more Open Access chapters.

The quest for AI sovereignty, transparency and accountability

2023-10

This volume is the result of a participatory process developed by the Data and Artificial Intelligence Governance (DAIG) Coalition of the United Nations Internet Governance Forum (IGF). The views and opinions expressed in this volume are those of the authors and do not necessarily reflect those of the United Nations Secretariat. The designations and terminology employed may not conform to United Nations practice and do not imply the expression of any opinion whatsoever on the part of the Organization. For any comments on the chapters of this volume, please contact the authors or the editors.

Retos éticos de la inteligencia artificial en el proceso judicial (Ethical Risks of Using Artificial Intelligence Systems for Judicial Decision-Making Processes)

2020-01-21

Este texto analiza las implicaciones éticas del uso de inteligencia artificial en los procesos judiciales con énfasis en el caso de Colombia. El documento comienza por precisar qué es la inteligencia artificial y el aprendizaje automatizado. En la segunda sección el texto identifica qué tiene de especial la inteligencia artificial – como herramienta tecnológica – desde el punto de vista del derecho.. Específicamente esta sección discute qué implicaciones o riesgos genera la inteligencia artificial como herramienta para los procesos judiciales.