¿Puede un algoritmo decidir sobre nuestros derechos?

La inteligencia artificial ha dejado de ser una promesa del futuro para convertirse en una realidad del presente. Cada día es más utilizada por empresas, universidades, entidades financieras y gobiernos para agilizar procesos, analizar grandes cantidades de información y apoyar la toma de decisiones. Su capacidad para aumentar la eficiencia y reducir costos resulta indiscutible. Sin embargo, junto con sus ventajas también surgen importantes interrogantes jurídicas que no pueden ser ignoradas.

Una de las preguntas más relevantes de nuestro tiempo es si la inteligencia artificial puede intervenir en decisiones que afectan directamente los derechos de los ciudadanos. Más aún, si nuestro ordenamiento jurídico está preparado para enfrentar los desafíos que plantea la utilización de estas tecnologías dentro de la Administración Pública.

Imaginemos por un momento que una institución pública utiliza un sistema de inteligencia artificial para determinar quién tiene derecho a recibir una ayuda social, una pensión, una licencia, un permiso o cualquier otro beneficio administrativo. Imaginemos también que dicho sistema rechaza una solicitud. ¿Quién explica las razones de esa decisión? ¿Quién responde si existe un error? ¿Cómo puede el ciudadano ejercer su derecho de defensa? ¿Ante quién reclama si considera que sus derechos han sido vulnerados?

Estas preguntas, que hace apenas unos años parecían propias de una novela de ciencia ficción, hoy forman parte de un debate jurídico que ya ocupa a tribunales, gobiernos y universidades en distintas partes del mundo.

La inteligencia artificial puede convertirse en una herramienta extraordinaria para mejorar la gestión pública. Puede reducir tiempos de espera, simplificar trámites, detectar irregularidades, optimizar recursos y aumentar la eficiencia administrativa. En un país donde los ciudadanos reclaman servicios públicos más ágiles y menos burocracia, estas tecnologías representan una oportunidad para acercar el Estado a la gente y mejorar la calidad de la administración.

Sin embargo, el entusiasmo tecnológico no puede hacernos olvidar un principio fundamental del Estado social y democrático de derecho: la persona humana debe seguir siendo el centro de toda actuación pública.

La Administración Pública no existe para servir a los algoritmos. Los algoritmos deben estar al servicio de las personas.

La Constitución dominicana coloca la dignidad humana como fundamento del ordenamiento jurídico. Asimismo, reconoce garantías esenciales como el debido proceso, la tutela judicial efectiva, la seguridad jurídica, la igualdad ante la ley y el derecho a una buena administración. Estas garantías fueron concebidas para proteger a los ciudadanos frente al ejercicio del poder público y no pueden desaparecer por el simple hecho de que una decisión haya sido tomada con apoyo tecnológico.

La ausencia de un marco jurídico específico para regular la utilización de sistemas de inteligencia artificial en la Administración Pública dominicana genera importantes incertidumbres. No existe claridad suficiente sobre los límites de estas herramientas, sobre quién asumirá responsabilidad por los errores que puedan cometer, qué nivel de supervisión humana será necesario ni cuáles mecanismos tendrá el ciudadano para cuestionar decisiones automatizadas.

Uno de los mayores desafíos es la transparencia.

En un Estado democrático, toda decisión que afecte derechos debe poder ser explicada y justificada. El ciudadano tiene derecho a conocer las razones por las cuales una solicitud fue aprobada o rechazada. Tiene derecho a impugnar una decisión que considere incorrecta. Tiene derecho a defenderse. Y tiene derecho a recibir una respuesta motivada por parte de la autoridad competente.

Pero ¿qué ocurre cuando una decisión es generada por un sistema cuya lógica resulta difícil de comprender incluso para quienes lo diseñaron?

Nos encontramos entonces frente al problema de la llamada “caja negra algorítmica”. En muchos sistemas avanzados de inteligencia artificial, el resultado puede ser técnicamente correcto, pero resulta complejo explicar con precisión el proceso que condujo a esa conclusión. Esto plantea serios desafíos para el principio de motivación de los actos administrativos y para el ejercicio efectivo del derecho de defensa.

También existe el riesgo de la discriminación algorítmica. Si los sistemas son entrenados con datos incompletos, sesgados o incorrectos, podrían reproducir errores e injusticias de manera automática, afectando derechos fundamentales sin que exista una intención discriminatoria consciente.

La eficiencia administrativa nunca puede alcanzarse sacrificando la justicia.

La rapidez nunca puede sustituir la legalidad.

Y la tecnología nunca puede estar por encima de la dignidad humana.

La historia del derecho ha sido, en gran medida, la historia de la lucha por limitar el poder y proteger a los ciudadanos frente a posibles arbitrariedades. Durante siglos se construyeron garantías procesales para evitar decisiones caprichosas, injustas o abusivas. Hoy enfrentamos un nuevo desafío: asegurar que esas garantías sobrevivan en la era digital.

La pregunta no es si la inteligencia artificial llegará a la Administración Pública dominicana. Esa transformación ya ha comenzado en muchas partes del mundo y tarde o temprano alcanzará a nuestras instituciones. La verdadera pregunta es si estamos preparados para regularla adecuadamente.

Instituciones como la Dirección General de Impuestos Internos, la Dirección General de Migración, la Tesorería de la Seguridad Social, la Junta Central Electoral, los ayuntamientos, los ministerios e incluso el propio sistema de justicia probablemente incorporarán herramientas de inteligencia artificial para apoyar procesos y decisiones durante los próximos años.

Por ello resulta imprescindible iniciar desde ahora una discusión seria sobre los límites jurídicos de estas tecnologías.

No se trata de frenar la innovación ni de oponerse al progreso tecnológico. Todo lo contrario. Se trata de establecer reglas claras que permitan aprovechar sus beneficios sin poner en riesgo los derechos fundamentales de los ciudadanos.

La República Dominicana tiene la oportunidad de anticiparse a problemas que ya están siendo debatidos en Europa, Estados Unidos y otras jurisdicciones avanzadas. Puede construir un modelo que combine innovación tecnológica con respeto a la Constitución, eficiencia administrativa con garantías procesales y modernización del Estado con protección efectiva de los derechos fundamentales.

La inteligencia artificial transformará profundamente la manera en que funcionan los gobiernos durante las próximas décadas. Esa transformación parece inevitable.

Lo que no debe ser inevitable es la reducción de las garantías que protegen al ciudadano frente al poder público.

Porque en una democracia constitucional, la tecnología debe servir al ser humano y no al revés.

Los algoritmos pueden ayudar a tomar decisiones. Pueden aumentar la eficiencia. Pueden reducir errores. Pueden agilizar procedimientos.

Pero nunca deben sustituir los principios de justicia, transparencia, responsabilidad, debido proceso y dignidad humana que constituyen la esencia misma del Estado de derecho.

La gran discusión jurídica del futuro no será si utilizamos inteligencia artificial en la Administración Pública.

La verdadera discusión será cómo garantizar que, aun en la era de los algoritmos, los derechos fundamentales de las personas sigan siendo el límite infranqueable de toda actuación estatal.