La Inteligencia Artificial como una herramienta de apoyo para funcionarios que combaten la trata de personas
Paula Rodríguez Díaz
La evolución de la Inteligencia Artificial (IA) y el aprendizaje de máquinas ha llevado a avances que, en la mayoría de los casos, solo creíamos serían posibles ver en películas de ciencia ficción. Avances como los vehículos autónomos, los asistentes inteligentes y los robots de manufactura son algunas de las creaciones tecnológicas que han sido posibles gracias al desarrollo de la inteligencia artificial. Sin embargo, no todas las innovaciones dadas en este campo están relacionadas con la creación de elementos tecnológicos tangibles. Aplicaciones como la detección temprana de tumores en mamografías usando técnicas de visión por computadora o la identificación de zonas de concentración de delitos son creaciones basadas en IA. Si bien estos ejemplos no son directamente utilizados por la mayoría de las personas, como si lo pudiese ser un vehículo autónomo o un asistente virtual, son aplicaciones de alto impacto que apoyan y facilitan la toma de decisiones de médicos, investigadores y policías.
Las aplicaciones basadas en IA anteriormente mencionadas, aquellas diseñadas para ser utilizadas de forma directa o indirecta por personas en su día a día, no solo se diferencian en quiénes son sus usuarios directos sino también en las restricciones y retos particulares que se deben tener en cuenta para su implementación. Por ejemplo, un vehículo autónomo está diseñado (o entrenado, como diría un científico de datos) para conducir en cualquier vía adecuada, ya sea en San Francisco o en Bogotá, mientras que otros desarrollos como la detección de puntos calientes de hurtos para Bogotá, realizados por Quantil y la Secretaría de Seguridad, Convivencia y Justicia de Bogotá (más información acá), consideran características específicas del lugar de aplicación como la distribución socio económica sobre la ciudad.
La herramienta tecnológica recientemente propuesta en el trabajo de tesis Identificación de redes de trata de personas en anuncios en línea de escorts escritos en español, hace parte del grupo de aplicaciones que apoya la toma de decisiones y que considera restricciones específicas del lugar de aplicación. Esta herramienta identifica posibles redes de trata de personas agrupando anuncios de escorts en línea escritos en español que tienen similitudes semánticas y contextuales pero que además son listados bajo diferentes números telefónicos. La solución propuesta en este trabajo cubre cuatro obstáculos principales en el uso de métodos de inteligencia artificial para combatir la trata de personas en países que no hablan inglés y particularmente en Colombia. Los dos primeros obstáculos están relacionados con la creación de soluciones que contemplen el contexto en donde se realiza la aplicación y los dos últimos corresponden al mejoramiento de capacidades de análisis de los investigadores de casos de trata de personas.
No todas las soluciones de IA están hechas para ser importadas:
Ante la brecha del avance científico y tecnológico entre países de alto ingreso y de mediano-bajo ingreso ha surgido la duda sobre si deberíamos desarrollar o importar ciencia y tecnología para las TIC en Colombia. Sin embargo, no todas las soluciones tecnológicas están diseñadas para funcionar bajo diferentes contextos. En el caso de los modelos para la detección de casos de trata de persona en anuncios en línea de escorts, las soluciones de última generación basadas en IA han sido desarrolladas para detectar estos casos entre anuncios escritos únicamente en inglés. La solución propuesta en el trabajo de tesis mencionado permite ampliar estas aplicaciones con el fin de apoyar la detección de redes de trata en lugares donde los anuncios de escorts estén escritos en cualquier idioma. Si bien este desarrollo facilita el uso de estas tecnologías en otros países, es necesario ajustarlas para servir las necesidades específicas que se tengan al combatir la trata de personas en cada lugar.
Cada país tiene necesidades específicas al combatir la trata de personas:
Si bien la trata de personas es un delito internacional, la forma en que se investigan, procesan y judicializan estos crímenes varía entre países y, por lo tanto, existen necesidades diferentes en cada uno de ellos. En el caso de Colombia, se encuentra un mayor interés en la detección de redes de trata de personas que en la identificación de casos aislados para ser investigados y judicializados. Si bien existen soluciones tecnológicas para apoyar tanto la (i) identificación de casos individuales de trata de personas como la (ii) identificación de posibles grupos organizados, el modelo desarrollado en la tesis mencionada consolida información relevante para apoyar la segunda tarea siendo ésta la de mayor relevancia en Colombia.
No se busca reemplazar la tarea humana sino apoyar y facilitar las tareas de los investigadores:
En Colombia ya existen sistemas basados en IA tales como PretorIA y PRISMA que guían la toma de decisiones de jueces en el proceso de selección de tutelas en la Corte Constitucional y en la evaluación del riesgo de reincidencia criminal en el sistema penal oral acusatorio. Estos sistemas apoyan la labor de los tomadores de decisiones, lo cual no implica que se reemplacen sus tareas. En 2019 llegaron más de 620.000 tutelas a la Corte, casi 1.700 al día (véase Conoce nuestra investigación sobre PretorIA, la tecnología que incorpora la Inteligencia Artificial a la Corte Constitucional). Con esto, soluciones como PretorIA no buscan reemplazar esa tarea humana sino facilitarla al hacer un primer análisis de las sentencias de tutela para brindar información más procesada a los encargados de identificar cuáles ameritan ser seleccionadas.
De forma similar, el modelo propuesto para identificar posibles redes de trata de personas entre anuncios de escorts en Colombia no pretende reemplazar las tareas de investigación realizadas en materia de trata de personas ni criminalizar situaciones detectadas, sino que consolida información relevante que puede ser utilizada por policías, fiscales y/o jueces para iniciar o complementar la investigación sobre estos casos. En la página web de anuncios de escorts analizada se publicaron cerca de 260.000 anuncios en tan solo tres meses, presentando así un reto inmenso para investigadores que identifican casos de trata en entornos digitales. Utilizar estas tecnologías como insumo único en investigaciones de trata de personas es irresponsable y no deseado dado que este tipo de sistemas pueden presentar una alta presencia de falsos positivos al ser utilizados como modelos indicadores, vulnerando así la decisión propia de trabajadores/as sexuales que no están en una red en contra de su voluntad. Con esto, los modelos de detección de trata de personas basados en IA no solo sirven a los investigadores en sus labores, sino que, bajo ninguna circunstancia, deben ser utilizados como insumo único de investigación.
Usar la tecnología para detectar patrones que los humanos por sí solos no serían capaces:
Además del alto volumen de anuncios que dificultan el análisis y las comparaciones manuales, el modelo que se propone en la tesis mencionada permite identificar similitudes semánticas y contextuales entre anuncios de escorts que, al estar publicadas con diferentes números telefónicos, se identifican como información relevante para los investigadores de casos de trata de personas. Algunos modelos de procesamiento de lenguaje natural basados en expresiones regulares, al igual que las comparaciones realizadas por humanos, logran identificar similitudes cuando se comparten frases iguales o similares. Sin embargo, las redes neuronales utilizadas en el modelo propuesto logran identificar similitudes en el estilo de escritura que un humano difícilmente lograría detectar.
Si bien los anuncios que se muestran abajo son similares bajo la lectura de un humano, los algoritmos basados en frases comunes no necesariamente los identificarían como similares puesto que su frase común más larga es tan solo “y mis videos. Tienen un costo”. El modelo propuesto es capaz de reconocer en estos anuncios publicados con diferentes números celulares un caso relevante a ser investigado de forma exhaustiva por los funcionarios competentes.
Si bien este tipo de soluciones basadas en IA facilitan y apoyan el trabajo de investigadores de casos de trata de personas a la vez que tienen en consideración el contexto en el cual están siendo utilizadas, consideramos que, para tomar decisiones informadas, debemos ser capaces de comprender los beneficios y las consecuencias de implementar este tipo de algoritmos. Para el caso estudiado, el principal beneficio de utilizar estos algoritmos no recae en su uso individual sino en las acciones que se tomen o se dejen de tomar con los patrones que el modelo detecta. Los desarrollos tecnológicos en materia de investigación de crímenes no solo sirven a la policía, jueces, fiscales y demás funcionarios e instituciones de las formas anteriormente descritas, sino que requieren, necesariamente, de una investigación posterior exhaustiva que asegure que un modelo, sensible a cometer errores, no sea el responsable de apuntar a un crimen donde no lo hay. Haciendo un símil, así como los pacientes son tratados por médicos y no por algoritmos, las víctimas de trata de personas son rescatadas por el cuerpo humano que combate este delito y no por los algoritmos que facilitan sus labores.
Paula Rodríguez Díaz Estudiante de doctorado en la Escuela de Ingeniería y Ciencias Aplicadas (SEAS) de la Universidad de Harvard
2 comments on “La Inteligencia Artificial como una herramienta de apoyo para funcionarios que combaten la trata de personas”
Un comentario relacionado con el uso de IA para la toma de decisiones que afectan a las personas directa o indirectamente: Es concocido que el uso de la IA puede tener sesgos y afectar negativamente poblaciones vulnerables, etc. De otra parte, tradicionalmente se piensa que la habilidad de detectar patrones, hacer buenas predicciones, etc., tareas en las que la IA sobresale por encima incluso de las capacidades humanas (punto 4 del post), implica en ocasiones sesgos socialmente indeseables. Mas aun, se espera que la correccion de esos sesgos comprometa el rendimiento de los algoritmos que se usan para tomar las decisiones. Lo interesante para mi es que esto es de cierta forma una pregunta empirica. Que tanto compromete la mitigacion de sesgos el rendimiento de los algoritmos? Hace poco, un par de investigadores de Quantil (Isabella Rodas y Melissa Robles) me llamaron la atencion sobre este articulo:
Case Study: Predictive Fairness to Reduce Misdemeanor Recidivism Through Social Service Interventions
Kit T. Rodolfa, Erika Salomon, Lauren Haynes, Ivan Higuera Mendieta, Jamie Larson, Rayid Ghani.(Arxiv)
que dan cuatro ejemplos donde el compromiso del desempeño del modelo por mitigar los sesgos es minimo. Algo similar habiamos encontrado en este articulo en el contexto de modelos de prediccion de crimen:
Urcuqui, C., Moreno, J., Montenegro, C., Riascos, A., & Dulce, M. (2020, November). Accuracy and Fairness in a Conditional Generative Adversarial Model of Crime Prediction. In 2020 7th International Conference on Behavioural and Social Computing (BESC) (pp. 1-6). IEEE.
En conclusiones, hay alguna evidencia de que mitigar sesgos algortimicos no es siempre tan costoso y es algo en lo que siempre se debe pensar.
El articulo mencionado en el comentario anterior es el que explica una forma de mitigar sesgos. Los estudios realmente estan es en este:
Empirical observation of negligible fairness-accuracy trade-offs in machine learning for public policy
Kit T. Rodolfa, Hemank Lamba, Rayid Ghani (Arxiv)
Un comentario relacionado con el uso de IA para la toma de decisiones que afectan a las personas directa o indirectamente: Es concocido que el uso de la IA puede tener sesgos y afectar negativamente poblaciones vulnerables, etc. De otra parte, tradicionalmente se piensa que la habilidad de detectar patrones, hacer buenas predicciones, etc., tareas en las que la IA sobresale por encima incluso de las capacidades humanas (punto 4 del post), implica en ocasiones sesgos socialmente indeseables. Mas aun, se espera que la correccion de esos sesgos comprometa el rendimiento de los algoritmos que se usan para tomar las decisiones. Lo interesante para mi es que esto es de cierta forma una pregunta empirica. Que tanto compromete la mitigacion de sesgos el rendimiento de los algoritmos? Hace poco, un par de investigadores de Quantil (Isabella Rodas y Melissa Robles) me llamaron la atencion sobre este articulo:
Case Study: Predictive Fairness to Reduce Misdemeanor Recidivism Through Social Service Interventions
Kit T. Rodolfa, Erika Salomon, Lauren Haynes, Ivan Higuera Mendieta, Jamie Larson, Rayid Ghani.(Arxiv)
que dan cuatro ejemplos donde el compromiso del desempeño del modelo por mitigar los sesgos es minimo. Algo similar habiamos encontrado en este articulo en el contexto de modelos de prediccion de crimen:
Urcuqui, C., Moreno, J., Montenegro, C., Riascos, A., & Dulce, M. (2020, November). Accuracy and Fairness in a Conditional Generative Adversarial Model of Crime Prediction. In 2020 7th International Conference on Behavioural and Social Computing (BESC) (pp. 1-6). IEEE.
En conclusiones, hay alguna evidencia de que mitigar sesgos algortimicos no es siempre tan costoso y es algo en lo que siempre se debe pensar.
El articulo mencionado en el comentario anterior es el que explica una forma de mitigar sesgos. Los estudios realmente estan es en este:
Empirical observation of negligible fairness-accuracy trade-offs in machine learning for public policy
Kit T. Rodolfa, Hemank Lamba, Rayid Ghani (Arxiv)