¿Quién audita el algoritmo que decide su destino?

Los algoritmos en su organización ya podrían estar guiando decisiones que impactan el empleo, la seguridad, el acceso a servicios o las finanzas. Podrían decidir qué candidatos avanzan en un proceso de selección, qué préstamos se aprueban, a qué pacientes se les da prioridad o qué proveedores son marcados como riesgo.

Estos sistemas no son neutrales. Utilizan datos que reflejan patrones del pasado, incluyendo sesgos. Están diseñados para cumplir objetivos establecidos por sus creadores, que podrían no ser siempre éticos. Debido a que funcionan de manera rápida y a gran escala, es difícil para las personas hacerles seguimiento. En muchas organizaciones, nadie revisa regularmente si estos sistemas funcionan como se espera, de forma justa y dentro de las normas.

Esta brecha no es hipotética. Es un riesgo de gestión y control real que aumenta de tamaño con cada sistema de inteligencia artificial que se implementa.

La investigación Visión 2035 del IIA (Instituto de Auditores Internos) reconoció la ética y el control empresarial como una dimensión fundamental para los futuros equipos de auditoría, y por una buena razón. A medida que la IA se integra en la toma de decisiones de las organizaciones, la pregunta de quién supervisa estos sistemas se vuelve urgente. Los reguladores están comenzando a responder a esa pregunta mediante legislación. Las juntas directivas están empezando a plantearla en las reuniones de los comités. Y cada vez más, la respuesta apunta a la auditoría interna como el área mejor posicionada para brindar un respaldo independiente y estructurado sobre el control y gestión de la IA.

Pero este rol requiere habilidades de las que carecen la mayoría de los equipos de auditoría. Evaluar la imparcialidad de un modelo de IA va más allá de revisar documentos. Analizar los resultados de un sistema de aprendizaje automático (machine learning) significa entender cómo se generan esos resultados. Brindar garantías sobre un proceso algorítmico implica saber qué preguntas hacer, y tener la fluidez técnica para evaluar las respuestas.

El desafío de la ética y el control no se trata solo de nuevas habilidades. Significa ampliar lo que la auditoría interna debe respaldar ahora que son los sistemas, y no las personas, los que toman las decisiones cruciales.

Robinson De Jesús aborda la ética y la gestión de riesgos como una de las diez habilidades clave en su próxima presentación de liderazgo, "La Función de Auditoría de 2035." Esta presentación resume cómo los equipos pueden desarrollar las competencias, los marcos de trabajo y los procesos necesarios para asumir esta creciente responsabilidad.

El algoritmo que decide el destino de alguien ya está en marcha. Preguntar quién lo revisa no es una pregunta retórica: en la actualidad, es una de las cuestiones de gestión empresarial más críticas.