Plataforma Tecnológica de Intervención Social
Este sistema de inteligencia artificial fue descontinuado en 2022. Su objetivo era predecir qué niñas de zonas de bajos ingresos “se quedarían embarazadas en los próximos cinco años” (Jemio et al., 2022). Para ello, fue entrenado y puesto en funcionamiento con información proveniente de bases de datos del gobierno provincial y de organizaciones de la sociedad civil en barrios de bajos ingresos de la ciudad de Salta, recopilada entre 2016 y 2017, así como con los resultados de una encuesta aplicada a 300.000 hogares (Pedace et al., 2023).
Nota de los editores: Según la información pública disponible, el sistema fue discontinuado en 2022.Tras la verificación correspondiente, Investigadores del LIAA (UBA) identificaron errores metodológicos graves: los datos empleados no permitían predecir embarazos futuros, pues para ello se requerirían datos recolectados cinco o seis años antes del evento. A ello se sumaron sesgos discriminatorios por etnia, condición socioeconómica y origen nacional; ausencia de variables como educación sexual y anticoncepción; presión de organizaciones feministas y de derechos humanos por vulneración de derechos de niñas y mujeres de comunidades indígenas y migrantes; y la falta de regulación, auditorías y evaluación de impacto (Pedace et al., 2023; LIAA, 2018).
- Fecha de publicación de esta ficha:
País
Entidad pública
Ministerio de Primera Infancia de la provincia norteña de Salta (Argentina)
Ubicación en la estructura del Estado
Nivel
Clasificación COFOG
Palabra clave
Estado conocido del proyecto
Año de inicio en pilotaje del sistema
Año de entrada en funcionamiento del sistema
Usa datos personales
Potencial aporte a ODS
Aporte a procesos de gobierno (Clasificación nivel I JRC - UE)
Sector de gobierno al que aporta el sistema (Clasificación BID)
Tipo de interacción (sí, no)
G2C
G2B
G2G
Clasificación OCDE por tipo de tarea (sí, no)
1. Reconocimiento
2. Detección de eventos
3. Predicción
4. Personalización
5. Soporte de interacción
6. Optimización orientada a objetivos
7. Razonamiento con estructura de conocimiento
¿Sistema previamente registrado en un repositorio anterior? (sí, no)
Fuentes primarias y secundarias del repositorio
Hipertextual. (2022, febrero 21). El algoritmo que usó datos privados de niñas pobres argentinas para predecir sus embarazos. Hipertextual. https://hipertextual.com/2022/02/el-algoritmo-que-uso-datos-privados-de-ninas-pobres-argentinas-para-predecir-sus-embarazos
ICC. (2018, julio 23). Investigadores encuentran graves errores en el sistema de predicción de embarazos adolescentes. Instituto de Ciencias de la Computación (ICC). https://icc.fcen.uba.ar/investigadores-encuentran-graves-errores-en-el-sistema-de-prediccion-de-embarazos-adolescentes/
Jemio, D., Hagerty, A., & Aranda, F. (2022, febrero 16). El Caso del Inquietante Algoritmo Que ‘Predice’ el Embarazo Adolescente. WIRED. https://www.wired.com/story/argentina-algoritmo-embarazada-prediccion/
Núñez-Torrón, A. (2022, febrero 21). Una provincia argentina implementó una IA abusiva para predecir qué niñas podían quedarse embarazadas. Business insider. https://www.businessinsider.es/algoritmo-microsoft-sirvio-predecir-embarazos-adolescentes-1015941
Pedace, K., Balmaceda, T., & Schleider, T. (2023, noviembre 24). Lo que oculta la inteligencia artificial Microsoft y las niñas vulnerables del norte de Argentina. Transnational Institute (TNI). https://www.tni.org/es/artículo/lo-que-oculta-la-inteligencia-artificial
Pedace, K., Schleider, T., & Balmaceda, T. (2023). Inteligencia artificial y sesgos. El caso de la predicción del embarazo adolescente en Salta. Revista iberoamericana de ciencia tecnología y sociedad, 18(53), 9–26. https://doi.org/10.52712/issn.1850-0013-359