The Black Hold: El agujero negro de la Auditoría

En estos tiempos de disrupción, nuevas palabras se han incorporado al vocabulario que un Auditor Interno debe conocer, y una de las palabras más enigmáticas es “algoritmo”, la definición de diccionario es “conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución a un tipo de problema”.

Actualmente la Inteligencia Artificial usa algoritmos para resolver problemas, tomar decisiones, etc.  Para el resto de los mortales y mucho de los auditores, los algoritmos son como magia, el sistema se comporta de una manera determinada precisamente por el algoritmo que contiene. Como auditores recibimos de nuestros auditados esa respuesta “se hace así por el algoritmo”, lo que es lo mismo que no recibir ninguna respuesta, pues el auditor para poder auditar cualquier proceso, necesita conocer la lógica del mismo.

Días atrás leía un artículo en el cual se cuestionaba un algoritmo creado por el Gobierno de Holanda el cual permitía realizar un mapa de riesgo de individuos, pudiendo establecer quienes tenían riesgo de cometer fraude relacionado con el sistema de seguridad social (Ver https://www.dutchnews.nl/news/2020/02/governments-fraud-algorithm-syri-breaks-human-rights-privacy-law/), del análisis realizado surgió que este algoritmo estaba sesgado y tendía a incluir en un mayor porcentaje a personas con una situación económica menos desfavorable, básicamente podía inferir que si la persona tenía una situación económica desfavorable tenía más probabilidades de cometer fraude fiscal y tomaba acciones en función de este razonamiento, lo que es a todas luces discriminatorio.

El problema es que todo un sistema de evaluación estaba montado sobre este algoritmo y su forma particular de razonamiento.

Cada vez más las decisiones de la empresa se están basando en algoritmos que muchas veces no comprendemos o no sabemos cuál es el razonamiento subyacente de la decisión que se tomó.

El IIA en uno de sus documentos establece que el auditor interno puede enfocarse en las siguientes etapas del ciclo de vida de la Inteligencia Artificial (y de los algoritmos que le dan forma):

  • Cómo está construida la IA. Los sistemas de IA son creados por humanos, que pueden ser parciales, críticos e injustos. Miremos a la auditoría interna para conducir test que determinen que los resultados producidos por la IA reflejan el objetivo original y no han sido desvirtuados por los sesgos de los creadores de la tecnología — también pueden proponer formas de mitigar el sesgo, la inequidad y otros daños potenciales en decisiones automatizadas del sistema. También se debería esperar que los auditores internos contribuyan al diseño responsable, garantizando que los sistemas de IA cumplan con las leyes y las convenciones internacionales que reconocen y preservan la dignidad humana, sus derechos y libertades.
  • Cómo se realiza la IA. La mayoría de las juntas directivas y la gerencia ejecutiva saben que el rendimiento es un campo familiar para los auditores internos. La calidad de los datos impulsa la calidad de los resultados de la IA, sin embargo a menudo los datos son generados por múltiples fuentes que no se comunican o resuelven problemas de datos. Los auditores internos pueden evaluar la confiabilidad, precisión, frecuencia e integridad. También pueden participar en la medición del desempeño — asegurando que el mismo se mida con criterios válidos que reflejen el logro de los objetivos de la organización.
  • Cómo es administrada y controlada la IA. Al igual que cualquier tecnología emergente, la IA requerirá un reexamen de las líneas de responsabilidad y supervisión, y la revisión o el desarrollo de políticas y procedimientos de gobierno. Miremos a la auditoría interna como proveedor de aseguramiento en estas áreas

Como vemos en nuestro rol de auditores internos debemos estar presentes en todas estas etapas, haciendo el paralelismo con los algoritmos, tenemos que participar en el ciclo de vida del mismo, desde su construcción, evaluación, puesta en productivo, pero también en su medición, administración y funciones de control.   

Dada la complejidad que muchas veces tiene estos algoritmos, es muy difícil poder opinar sobre la propia construcción y lógica utilizada, pero dado el ambiente complejo en lo tecnológico con que se enfrentan los nuevos auditores, no es descabella pensar en un futuro la función de auditores en algoritmos, los cuales posean los skills necesarios para poder revisar los mismos, dado que como lo hemos dicho antes no es posible pensar en un auditor que pueda auditar procesos que no conoce.

Categorías: IT

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s