Cómo un algoritmo mandó a un hombre a prisión por asesinato

La esposa de Michael Williams le rogó que recordara los viajes a pescar con sus nietos, cómo solía trenzar su cabello, cualquier cosa para devolverlo a su mundo fuera de los muros de concreto de la prisión del condado Cook.

Las tres llamadas diarias que tenía permitido hacerle a ella se habían convertido en un salvavidas, pero cuando se redujeron a dos, luego a una, y después a unas pocas a la semana, Williams, de 65 años, sintió que no podía seguir adelante. Planeó quitarse la vida con un alijo de píldoras que había almacenado en su dormitorio.

Williams fue encarcelado en agosto pasado, acusado de asesinar a un joven de su vecindario que le pidió que lo llevara en su automóvil una de las noches de disturbios por la brutalidad policial en mayo. Pero la evidencia clave contra Williams no provino de testigos o un informante, sino de un video de seguridad que mostraba un automóvil que cruzaba una intersección y de un fuerte sonido explosivo captado por una red de micrófonos de vigilancia. Los fiscales dijeron que la tecnología, que utilizaba un algoritmo secreto que analizaba ruidos detectados por sensores, mostró que Williams le disparó y mató al hombre.

“Seguí tratando de entender cómo podían salirse con la suya usando tecnología como esa en mi contra”, dijo Williams, en sus primeras declaraciones pública sobre su calvario. “Eso no es justo”.

Williams permaneció tras las rejas durante casi un año antes de que un juez desestimara el caso en su contra el mes pasado a petición de los fiscales, quienes finalmente dijeron tener evidencia insuficiente.

La experiencia de Williams subraya los impactos en el mundo real de la creciente dependencia de algoritmos para ayudar a tomar decisiones que tienen impactos significativos en la vida pública. En ninguna parte es esto más evidente que en la aplicación de la ley, que ha recurrido a empresas de tecnología como la compañía de detección de disparos ShotSpotter para combatir el crimen. Evidencias procedentes de ShotSpotter han sido admitidas cada vez en casos judiciales alrededor de Estados Unidos, y actualmente suman unos 200. Se usó para acusar de asesinato a Williams, pero nunca se admitió porque el caso no llegó a juicio. El sitio web de ShotSpotter dice que es “un líder en soluciones de tecnología policial de precisión” que ayuda a detener la violencia armada mediante el uso de “sensores, algoritmos e inteligencia artificial” para clasificar 14 millones de sonidos en su base de datos como disparos de armas u otra cosa.

____

“NO ES PERFECTO”

En la noche en que Williams salió por cigarrillos, los sensores de ShotSpotter identificaron un ruido fuerte en el sistema ubicado en S. Lake Shore Drive 5700, cerca del histórico Museo de Ciencia e Industria de Chicago, junto al lago Michigan, según un informe forense que la compañía entregó a la policía.

Ese reporte ancló la teoría de los fiscales de que Williams disparó a Herring dentro de su automóvil, aunque el informe complementario de la policía no citó un motivo ni mencionó a ningún testigo ocular. Tampoco se encontró un arma en la escena del crimen.

Los fiscales también se apoyaron en un video que mostraba que el automóvil de Williams se pasó un semáforo en rojo, al igual que otro automóvil que parecía tener las ventanillas subidas, lo que descartaba la posibilidad de que el disparo proviniera del asiento del copiloto del otro vehículo, dijeron.

La Policía de Chicago no respondió a una solicitud de la AP para comentar sobre el caso. La Oficina del Fiscal del estado en el condado Cook señaló en un comunicado que después de cuidadosas revisiones, los fiscales “concluyeron que la totalidad de la evidencia era insuficiente para cumplir con nuestra carga de la prueba”, pero no contestó preguntas específicas sobre el caso.

Chicago police did not respond to AP’s request for comment. The Cook County State’s Attorney’s Office said in a statement that after careful review prosecutors “concluded that the totality of the evidence was insufficient to meet our burden of proof,” but did not answer specific questions about the case.

A medida que los sistemas de detección de disparos de armas de ShotSpotter se extienden por el país, también lo ha hecho su uso como evidencia forense en las salas de los tribunales: unas 200 veces en 20 estados desde 2010, 91 de esos casos apenas en los últimos tres años, dijo la compañía.

“Nuestros datos compilados con nuestro análisis de expertos ayudan a los fiscales a realizar condenas”, dijo un comunicado de prensa reciente de ShotSpotter. Incluso durante la pandemia, ShotSpotter participó en 18 casos judiciales, algunos a través de Zoom, según una presentación reciente que la empresa hizo para sus inversionistas.

Pero, aunque su uso se haya extendido en los tribunales, la tecnología de ShotSpotter ha atraído el escrutinio.

Por un lado, el algoritmo que analiza los sonidos para distinguir los disparos de armas de otros ruidos nunca ha sido revisado por académicos o expertos externos.

“La preocupación por el uso de ShotSpotter como evidencia directa es que simplemente no existen estudios externos que establezcan la validez o confiabilidad de la tecnología. Nada”, dijo Tania Brief, abogada de planta de la organización sin fines de lucro El Proyecto Inocente (The Innocence Project), que busca revertir condenas erróneas.

Un estudio de 2011 encargado por la empresa encontró que los contenedores de basura, camiones, motocicletas, helicópteros, fuegos artificiales, construcciones, recolección de basura y campanas de iglesias han disparado alertas de falsos positivos al confundir sus sonidos con disparos de armas de fuego. Clark dijo que la empresa mejora constantemente su filtrado de audio, pero el sistema todavía arroja un pequeño porcentaje de falsos positivos.

En el pasado, estas alertas falsas —y la falta de alertas— ha llevado a ciudades desde Charlott, Carolina del Norte, hasta San Antonio, Texas, a dar por terminados sus contratos con ShotSpotter, encontró la AP.

En Fall River, Massachusetts, la policía dijo que ShotSpotter funcionaba menos del 50% del tiempo y no registró los siete disparos en un asesinato en el centro de la ciudad en 2018. Los resultados no mejoraron con el tiempo, y más tarde ese año, ShotSpotter apagó su sistema.

El distrito de escuelas públicas en Fresno, California, terminó su contrato el año pasado, después de pagar 1.25 millones de dólares a lo largo de cuatro años, y lo encontró demasiado costoso. Además, a los padres y a los miembros de la junta les preocupaba que los fondos del distrito que se suponía debían ayudar a estudiantes con necesidades de asistencia eran utilizados para pagar por ShotSpotter, dijo Genoveva Islas, consejera de la junta escolar.

“Estábamos en el punto donde George Floyd había sido asesinado y había mucha presión sobre el racismo y la discriminación en el distrito. Había un cuestionamiento creciente sobre esa inversión en particular”, dijo Islas.

Algunos tribunales tampoco han quedado muy impresionados con el sistema ShotSpotter. En 2014, un juez en Richmond, California, no permitió que su utilizara evidencia de ShotSpotter durante un caso de conspiración de asesinato entre pandillas, aunque el hombre acusado, Todd Gillard, fue declarado culpable de estar involucrado en un tiroteo desde un vehículo.

“El testimonio experto de que un arma fue disparada en una ubicación particular en un momento específico, con base en la tecnología de ShotSpotter, no es admisible en los tribunales actualmente porque no ha alcanzado, en este punto, la aceptación general en la comunidad científica relevante”, dictaminó John Keneddy, juez de la Corte Superior de Contra Costa.

En un caso de Chicago, los fiscales tenían videos de vigilancia del pandillero Ernesto Godinez en un vecindario donde le dispararon a un agente de la ATF al anochecer —pero ninguno mostraba que él de hecho disparara un arma—. En el juicio en 2019, presentaron datos de ShotSpotter para mostrar que los disparos se originaron en el lugar donde la evidencia indicaba que estaba Godinez cuando sonaron los disparos. El mes pasado, una corte federal de apelaciones dictaminó que un juez de primera instancia erró al no examinar la confiabilidad de los datos de ShotSpotter antes de permitir que los jurados la escucharan. Sin embargo, el panel dividido de tres jurados concluyó que otra evidencia que presentaron los fiscales era suficiente para mantener la condena de Godinez.

ShotSpotter dice que constantemente afina su modelo de aprendizaje automático para reconocer qué es y qué no es un sonido de disparo al dejar que detectives e investigadores agreguen observaciones de la escena del crimen a su sistema. Como parte de ese proceso, que ellos llaman “verdad en el terreno”, ShotSpotter pide a patrulleros que agreguen y anoten casquillos de bala, agujeros de bala, recopilen testimonios de testigos y otra “evidencia de disparos de armas” utilizando su programa de cómputo. Los oficiales pueden agregar lo que encuentran directamente al sistema.

“Tenemos la oportunidad de que la clasificación automática sea mejor y mejor y mejor porque tenemos ciclos de retroalimentación de humanos en tiempo real”, dijo Clark.

Varios expertos advirtieron que entrenar a un algoritmo con base en un conjunto de observaciones presentadas por la policía pone en riesgo de contaminar al modelo si los agobiados oficiales —quizá sin darse cuenta— lo alimentan con datos incompletos o incorrectos.

“Estoy un poco horrorizada”, dijo Clare Garvie, asociada senior del Centro sobre Privacidad y Tecnología (Center on Privacy and Technology) en la escuela de derecho de la Universidad Georgetown. “Usted está creando una incertidumbre inherente en ese sistema y le está diciendo a ese sistema que está bien. Está contaminando la confiabilidad de su sistema”.

ShotSpotter dijo que entre más datos recibe de la policía, mas preciso se vuelve su modelo, que dice es acertado el 97% de las veces.

“En el pequeño número de casos en los que ShotSpotter es incorrecto, proporcionar retroalimentación al algoritmo puede mejorar su precisión”, dijo la empresa.

Más allá del algoritmo de ShotSpotter, se han planteado otras cuestiones sobre cómo opera la empresa.

Los registros judiciales muestran que, en algunos casos, los empleados han cambiado sonidos detectados por el sistema para decir que son disparos.

Durante el testimonio en un juicio por tiroteo en Rochester, Nueva York, en 2016, en el que participaron oficiales de la policía, presionaron al ingeniero Paul Greene de ShotSpotter para explicar por qué uno de sus empleados reclasificó los sonidos de un helicóptero como bala. ¿La razón? Dijo que su cliente, en este caso el departamento de policía de Rochester, les dijo que lo hicieran.

El abogado defensor en ese caso quedó estupefacto: “¿Es eso algo que ocurre en el curso regular del negocio en ShotSpotter?”, preguntó.

“Sí, lo es. Pasa todo el tiempo”, dijo Greene. “Típicamente, usted sabe, confiamos en que nuestros clientes encargados del cumplimiento de la ley sean verdaderamente francos y honestos con nosotros”.

Al testificar en un juicio por asesinato en San Francisco en 2017, Greene dio un testimonio similar sobre que un analista había cambiado la ubicación de su alerta inicial a una cuadra de distancia, con lo que repentinamente coincidía con la escena del crimen.

“No es perfecto. El punto en el mapa es solo un punto de partida”, dijo.

En el caso de Williams, la evidencia en las audiencias previas muestra que ShotSpotter inicialmente dijo que el ruido captado por el sensor era un petardo, que el algoritmo de la compañía determinó con un 98% de confianza. Pero un empleado de ShotSpotter volvió a etiquetar el ruido como un disparo.

Más tarde, Walter Collier, ingeniero senior de soporte técnico de ShotSpotter, cambió la dirección reportada del sonido a la calle por donde Williams conducía, a más o menos 1.6 km de distancia, según los documentos judiciales. ShotSpotter dijo que Collier corrigió el informe para que coincidiera con la ubicación real que los sensores habían identificado.

Collier había trabajado para el Departamento de Policía de Chicago durante más de dos décadas antes de unirse a la empresa. Después de que Williams fuera sentenciado a prisión, su abogado solicitó más información sobre la capacitación de Collier usando el sistema de ShotSpotter. El abogado, Brendan Max, dijo que le sorprendió la respuesta de la empresa.

En los documentos judiciales, ShotSpotter reconoció: “Nuestros expertos son capacitados usando una variedad de sesiones de entrenamiento ‘en el trabajo’, y la transmisión de conocimiento de nuestros científicos y otros empleados experimentados. Como tales, no existen materiales de capacitación oficiales o formales para nuestros expertos forenses”.

Los funcionarios encargados del cumplimiento de la ley en Chicago aún apoyan su uso de ShotSpotter. El contrato de Chicago, de tres años y 33 millones de dólares, firmado en 2018, convierte a la ciudad en el principal cliente de ShotSpotter. Ahora, ShotSpotter se encuentra en el corazón del “ciclo de inteligencia-acción” del departamento de policía para la vigilancia predictiva que utiliza alertas de disparos para “identificar áreas de riesgo”, según una presentación de 2019 obtenida por la AP.

A fines del mes pasado, el 22 de julio, el fiscal general Merrick Garland voló a Chicago para anunciar una nueva iniciativa para combatir la violencia con armas de fuego. El día siguiente recorrió un recinto policial y observó a los funcionarios mostrarle cómo usaban ShotSpotter.

____

EVIDENCIA INSUFICIENTE

Al siguiente día, Williams entró cojeando a la Sala 500, apoyado en su bastón de madera, vestido con un atuendo de prisión color marrón claro y sandalias, con un ayudante de sheriff casi sobre él. Había estado encerrado durante 11 meses.

Williams levantó la cabeza hacia el famoso juez irascible Vincent Gaughan. El veterano de Vietnam de 79 años lo miró desde lo alto de su estrado y gentilmente dijo a Williams que su caso había sido desestimado. La razón: evidencia insuficiente.

ShotSpotter mantiene que había advertido a los fiscales que no confiaran en su tecnología para detectar disparos realizados dentro de vehículos o edificios. La compañía dijo que el descargo de responsabilidad se puede encontrar en las letras pequeñas de su contrato con la policía de Chicago.

Sin embargo, la compañía se rehusó a decir en qué punto durante el encarcelamiento de casi un año de Williams se puso en contacto con los fiscales, o por qué preparó un informe forense de un disparo que supuestamente fue realizado en el vehículo de Williams, dado que el sistema tenía problemas para identificar disparos en espacios cerrados. El mismo informe tenía una errata que sugería que la tecnología funcionaba, de hecho, en el interior de los automóviles. Clark, el director ejecutivo de la empresa, se negó a comentar sobre el caso, pero en un comunicado de seguimiento, la empresa fue ambigua y dijo a la AP que bajo “ciertas condiciones” el sistema puede de hecho detectar disparos dentro de los vehículos.

Max, el abogado de Williams, dijo que los fiscales jamás le revelaron nada de esta información a él, y optaron por retirar los cargos dos meses después de que presentó un citatorio para ShotSpotter por la correspondencia de la compañía con los abogados estatales.

El juez acordó programar una audiencia en las próximas semanas sobre si divulgar el protocolo operativo de ShotSpotter y otros documentos que la empresa quiere mantener en secreto. Max, quien lo solicitó, dijo que dicho material podría ser utilizado para poner en duda la validez y confiabilidad de la evidencia de ShotSpotter en casos de todo el país.

A las 9 p.m., del 22 de julio, Williams salió de la cárcel del condado Cook hacia la calurosa noche de Chicago. No tenía teléfono móvil, ni cartera, ni identificación. Las autoridades no le permitieron realizar una llamada ni le devolvieron nada. Fue recogido por su abogado.

Anderson, su esposa desde hace 20 años, lo esperaba en casa. Cuando su esposo bajó del automóvil de su abogado, lo tomó en sus brazos y lloró.

La primera noche en casa, Anderson cocinó costillas y pollo, pan de maíz y pasta con queso americano.

Pero Williams no podía comer por sí mismo. Había vencido el COVID-19 dos veces en prisión, pero había desarrollado un temblor incontrolable en la mano que le impedía sostener una cuchara. Así que Anderson lo alimentó. Y sentados juntos en el sofá, se aferró a su brazo para tratar de impedir el temblor.

Por su parte, Samona Nicholson, la madre de Herring, cree que la policía tenía al sospechoso correcto en Williams. Culpa a ShotSpotter por arruinar el caso al transmitir y después retirar lo que llama datos poco sólidos.

Williams sigue conmocionado por su experiencia. Dijo que ya no se siente seguro en su ciudad natal. Cuando camina por el vecindario busca los pequeños micrófonos que casi lo mandan a prisión de por vida.

“Los únicos lugares donde se instalan estos dispositivos son en comunidades negras pobres, en ningún otro lugar”, dijo. “¿Cuántos de nosotros terminaremos en esta misma situación?”.