NUEVO MODELO DE GOBERNANZA DE INTELIGENCIA ARTIFICIAL

Una de las áreas clave en la gestión de riesgos al implementar una solución de Inteligencia Artificial (IA) es la obtención de datos y es que, el acceso por parte de las empresas a grandes volúmenes de éstos, planteará desafíos en términos de privacidad, riesgos geopolíticos y de ciberseguridad.

En primer lugar, conviene indicar cuáles serán esos riesgos geopolíticos y, en este sentido, es preciso destacar la existencia del software de seguimiento de empleados, una plataforma que se utiliza para rastrear y supervisar las actividades de los empleados durante sus horas de trabajo.Dicha herramienta podrá ofrecer información sobre comportamientos como la productividad, la asistencia y los hábitos en línea para ayudar a las empresas a tomar decisiones sobre cómo utilizar sus recursos de manera más efectiva.

Una aplicación simple de este software será la realización de un seguimiento de las horas de trabajo de un empleado al monitorear cuándo inicia y cierra sesión. Los informes incluirán el uso de aplicaciones de software, sitios web visitados, documentos a los que se accedió e incluso pulsaciones de ciertas teclas específicas.

Dado que el trabajo remoto se está convirtiendo en la norma y no en la excepción, muchas empresas quieren asegurarse de que sus empleados sean tan productivos fuera y dentro del lugar de trabajo y si bien es verdad que a muchas personas les da igual desde donde trabajen, actualmente son muchos los argumentos en contra.

Otro riesgo dañino relacionado con los datos será el sesgo en los algoritmos. El modelo de IA aprende de los datos en los que se entrena, y el sesgo en esos datos puede resultar en salidas no deseadas.

Los ciberataques serán otro riesgo significativo, pudiendo afectar la integridad de las decisiones y predicciones del modelo de IA y es que los hackers pueden tomar el control de la solución o proporcionar entradas manipuladas que dañen el algoritmo.

La gobernanza de la IA será el proceso consistente en el establecimiento de políticas y responsabilidades para impulsar el desarrollo e implementación de sistemas de IA en una organización. En definitiva, se tratará de un marco amplio que utilizará una variedad de procesos, enfoques y herramientas para garantizar que una organización utilice la tecnología de IA de manera favorable y responsable. La gobernanza de la IA abarcará la gestión de riesgos, el cumplimiento normativo, los acuerdos contractuales y la ética.

Cuando se realice de manera adecuada, la gobernanza de la IA fomentará la agilidad y la confianza en una organización. Capturar y gestionar los metadatos de los modelos de IA creará transparencia sobre cómo se construyen e implementan los sistemas de IA.

Recalcar que, en el mercado existen muchas herramientas que pueden ayudar a evaluar el impacto de un sistema de IA, las áreas de riesgo y el rendimiento. Esas herramientas de evaluación pueden de igual manera ayudar a las empresas a establecer prácticas consistentes y bien definidas que prioricen atributos como la precisión, el sesgo, la consistencia, la transparencia, la interpretabilidad y la equidad en el modelo de IA que se está desarrollando.

Al establecer acuerdos contractuales en el ámbito de la IA será básico considerar todos los factores relacionados con el cumplimiento normativo. Un contrato sólido no solo debe abarcar los aspectos básicos y los detalles de gestión del proyecto, sino que también debe incluir medidas de protección contra el incumplimiento. Al evaluar a un proveedor de IA, es importante verificar si su enfoque está basado en riesgos y si se adapta al modelo de IA y a la industria en la que se implementará. Garantizamos así y nos aseguramos de que se tengan en cuenta los riesgos específicos y se tomen medidas adecuadas.

Será importante asegurarse de que los acuerdos incluyan cláusulas sobre el uso restringido o prohibido de la IA, así como que establezcan indicadores clave de desempeño (KPIs) y métricas de cumplimiento bien definidas para monitorear el rendimiento durante el ciclo de vida de la IA. Al evaluar un proveedor de IA y establecer acuerdos contractuales, será esencial considerar el cumplimiento normativo, la adaptabilidad, la transparencia y la capacidad de cumplir con las regulaciones y estándares éticos en el uso de la IA.