REDACCI\u00d3N NOTI AM\u00c9RICA (ECUADOR) por\u00a0Patricio Dom\u00ednguez.<\/p>\n
Aquella antigua idea de que la justicia es ciega, opera con bastante dificultad en la pr\u00e1ctica. Diversas investigaciones muestran que en Estados Unidos, individuos pertenecientes a minor\u00edas son tratados desfavorablemente en diferentes etapas del sistema judicial donde, por ejemplo, los jueces exigen a acusados\u00a0afroamericanos<\/span>\u00a0condiciones de fianza m\u00e1s severas\u00a0\u00a0que a los blancos.<\/p>\n No ser\u00eda\u00a0extra\u00f1o<\/span>\u00a0encontrar\u00a0discriminaciones<\/span>\u00a0similares en algunos pa\u00edses de Am\u00e9rica Latina. Aunque a\u00fan no contamos con una sistem\u00e1tica revisi\u00f3n en la regi\u00f3n, no es dif\u00edcil creer que los\u00a0bajos niveles de confianza\u00a0en el sistema judicial tengan relaci\u00f3n con un trato menos justo hacia algunos grupos de la poblaci\u00f3n. Esto, adem\u00e1s, puede estar relacionado con uno de los fen\u00f3menos de justicia m\u00e1s preocupantes de la regi\u00f3n: el gran n\u00famero de personas que se encuentran en detenci\u00f3n preventiva.\u00a0 Las c\u00e1rceles est\u00e1n repletas de personas en espera de juicio, muchas de ellas pobres. El 36% de la\u00a0poblaci\u00f3n carcelaria\u00a0en la regi\u00f3n no ha recibido condena, cifra que supera el 50% en varios pa\u00edses, entre ellos Bolivia, Guatemala, Uruguay y Venezuela.<\/p>\n Una pregunta importante consiste en saber si ser\u00eda posible eliminar discriminaciones injustas en el sistema judicial y garantizar que los jueces impartan justicia de manera consistente para evitar algunos de estos problemas. Existe un encendido debate sobre si mediante la inteligencia artificial y el uso de algoritmos se podr\u00eda lograr esto.<\/p>\n Probar la existencia de un sesgo contra un determinado grupo no es sencillo. Sin embargo, investigaciones recientes han demostrado de forma cre\u00edble que las minor\u00edas en Estados Unidos reciben un trato injusto en \u00e1mbitos diversos como las\u00a0multas por exceso de velocidad, o el hecho que frente a similar circunstancias, algunos grupos presentan una probabilidad mayor de\u00a0encarcelamiento.\u00a0Sorprendentemente<\/span>, existe incluso evidencia de\u00a0sesgo pol\u00edtico\u00a0en la imposici\u00f3n de penas.<\/p>\n Por otro lado, existen importantes problemas de consistencia que afectan la confiabilidad en el sistema judicial. Al igual que otros seres humanos, los jueces pueden verse \u00a0influenciados por factores ambientales, como la \u201cfatiga por decisi\u00f3n,\u201d que los hace m\u00e1s estrictos a la hora de conceder libertad condicional, si no han tenido la oportunidad de tomarse un descanso para comer. O el estr\u00e9s emocional cuando, por ejemplo, dictan\u00a0sentencias m\u00e1s largas\u00a0despu\u00e9s de que su equipo de f\u00fatbol favorito pierde un partido contra todo pron\u00f3stico.<\/p>\n En este contexto, algo tan aparentemente objetivo como la inteligencia artificial parece resultar muy prometedor. Despu\u00e9s de todo, la mayor\u00eda de las personas han sido testigos del poder de los algoritmos para reconocer im\u00e1genes y procesar enormes cantidades de datos en d\u00e9cimas de segundos. Adem\u00e1s, uno podr\u00eda pensar que los algoritmos ofrecen un procedimiento transparente que puede estar sujeto a un escrutinio continuo, al menos por parte de un grupo de expertos. La pregunta entonces es si es posible aprovechar esta tecnolog\u00eda para mejorar la imparcialidad del sistema judicial.<\/p>\n Una limitaci\u00f3n fundamental de los algoritmos es su capacidad de simplemente reproducir los prejuicios sociales observados en los datos. Como se\u00f1alan Solon Baracas y Andrew Selbst en un reciente\u00a0documento,\u00a0un \u201calgoritmo solo es tan bueno como los datos con los que trabaja\u201d. Es decir, los datos pueden hacer que los algoritmos \u201chereden los prejuicios de los anteriores entes decisorios\u201d o \u201csimplemente reflejen los prejuicios generalizados que persisten en la sociedad en general\u201d.<\/p>\n En parte, estas limitaciones provienen de las\u00a0dificultades t\u00e9cnicas\u00a0que son intr\u00ednsecas al uso de algoritmos en las ciencias sociales. Una de ellas tiene que ver con el tama\u00f1o de las muestras. Ello hace que, por ejemplo, grupos\u00a0mayoritarios<\/span>\u00a0de la poblaci\u00f3n sean representados con mayor precisi\u00f3n en los algoritmos debido a existen m\u00e1s datos sobre ellos que sobre otros grupos minoritarios. Asimismo, las diferencias culturales desempe\u00f1an un papel importante en la calidad de ajuste de los modelos ya que los patrones que son v\u00e1lidos para la poblaci\u00f3n en general pueden no serlo para las minor\u00edas. Asimismo, la eliminaci\u00f3n de estas diferencias resulta complicada porque rotular espec\u00edficamente a los individuos de las minor\u00edas con el fin de mejorar el algoritmo puede ser objetable en s\u00ed mismo.<\/p>\n A pesar de estas intr\u00ednsecas limitaciones, un reciente\u00a0estudio\u00a0ofrece una perspectiva interesante sobre c\u00f3mo combinar el uso de algoritmos y big data con las decisiones de los jueces. Dicho estudio compara c\u00f3mo hubiesen funcionado los algoritmos en el sistema judicial de la ciudad de Nueva York frente a las decisiones que realmente tomaron los jueces al determinar qu\u00e9 sospechosos deb\u00edan ser liberados y cu\u00e1les deb\u00edan ser encarcelados antes del juicio.<\/p>\n El estudio incluy\u00f3 un dise\u00f1o ingenioso. Ante la imposibilidad de observar la cantidad delitos que podr\u00edan haber cometido quienes fueron encarcelados, pero que pudieron haber sido puestos en libertad, los autores construyen un escenario contrafactual en el que comparan a sospechosos con perfiles muy similares que se enfrentaron a jueces levemente menos estrictos y que ante igualdad de antecedentes decid\u00edan dejarlos en libertad durante la espera del juicio. Al observar el registro posterior a la puesta en libertad de quienes fueron liberados por jueces indulgentes, los investigadores estiman c\u00f3mo habr\u00eda sido el comportamiento del grupo de personas que fueron encarcelados por jueces estrictos, en el caso que hubiesen sido puestos en libertad. De esta manera, comparan las decisiones de los jueces (otorgar detenci\u00f3n preventiva o no) con aquellas generadas por un algoritmo de inteligencia artificial en poblaciones similares.<\/p>\n El estudio, en lugar de afirmar que es posible eliminar el sesgo, muestra que los algoritmos pueden ofrecer una valiosa contribuci\u00f3n. De hecho, sus resultados sugieren que, de haber sustituido las decisiones de los jueces por el\u00a0dictamen<\/span>\u00a0de un algoritmo, la cantidad total de delitos se habr\u00eda reducido en un 24,7% sin cambios en los \u00edndices de encarcelamiento, o su contraparte, que los \u00edndices de encarcelamiento podr\u00edan haberse reducido en un 41,9% sin un aumento en los \u00edndices de delincuencia. Adem\u00e1s, esos resultados podr\u00edan haberse logrado aun cuando los algoritmos redujeron las disparidades que afectan negativamente a los afroamericanos y a los latinos.<\/p>\n Los jueces enfrentan decisiones dif\u00edciles cuando toman decisiones sobre la libertad de las personas. Por un lado, si liberan a los sospechosos corren el riesgo de que estos cometan m\u00e1s delitos, huyan o amenacen a los testigos. Por otro lado, si los retienen pueden poner en riesgo los empleos de los sospechosos, crear traumas financieros y psicol\u00f3gicos para ellos y sus familias, e incluso aumentar la posibilidad de que sean condenados, especialmente a trav\u00e9s de\u00a0declaraciones\u00a0de culpabilidad.<\/p>\n Am\u00e9rica Latina probablemente no tiene suficientes datos complejos o no cuenta con muestras lo suficientemente grandes como para empezar a utilizar la inteligencia artificial en las decisiones de los tribunales de manera inmediata. Pero puede empezar a recopilar datos de mayor calidad a nivel de casos individuales, desarrollar modelos para la inteligencia artificial y probar su desempe\u00f1o en relaci\u00f3n con los jueces en simulaciones similares a las realizadas en el estudio de Nueva York.<\/p>\n Un caso interesante se est\u00e1 llevando a cabo en Colombia, donde ya se han replicado varios de los resultados observados en Nueva York. Las estimaciones se est\u00e1n utilizando ahora para\u00a0orientar a los fiscales\u00a0a promover un uso m\u00e1s eficiente de las prisiones, deteniendo antes de los juicios solo a quienes representan un mayor riesgo para la sociedad. Si bien a\u00fan quedan muchas preguntas abiertas, debemos estar atentos a c\u00f3mo \u00e9stas u otras herramientas nos permitan revertir la costosa y contraproducente pr\u00e1ctica de retener a un gran n\u00famero de personas en detenci\u00f3n preventiva.<\/p>\n Fuente. BID.<\/p>\n","protected":false},"excerpt":{"rendered":" REDACCI\u00d3N NOTI AM\u00c9RICA (ECUADOR) por\u00a0Patricio Dom\u00ednguez. Aquella antigua idea de que la justicia es ciega, opera con bastante dificultad en la pr\u00e1ctica. Diversas investigaciones muestran que en Estados Unidos, individuos pertenecientes a minor\u00edas son...<\/p>\n","protected":false},"author":17,"featured_media":6476,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"rop_custom_images_group":[],"rop_custom_messages_group":[],"rop_publish_now":"initial","rop_publish_now_accounts":{"twitter_242054905_242054905":""},"rop_publish_now_history":[],"rop_publish_now_status":"pending","_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[109],"tags":[],"class_list":["post-6475","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seguridad"],"acf":[],"aioseo_notices":[],"yoast_head":"\n\u00a0Disparidades en el sistema de justicia penal<\/strong><\/h2>\n
\u00bfFuncionan los algoritmos como una soluci\u00f3n contra la discriminaci\u00f3n?<\/strong><\/h2>\n
Un interesante estudio en Nueva York<\/strong><\/h2>\n