Con la rápida evolución de la inteligencia artificial (IA), las organizaciones que utilizan estas tecnologías de IA deben pensar en la seguridad, la protección y la gobernanza por sobre todas las demás cosas. Aquellos que no le dan importancia a la gobernanza de la IA corren el riesgo de sufrir una filtración de datos, fraude o violación de las leyes de privacidad.

Se espera que toda organización que utilice la IA mantenga la transparencia, el cumplimiento y la estandarización en todos sus procesos. Entonces, ¿cómo garantiza la gobernanza de la IA?

¿Qué es la inteligencia artificial?

La IA puede abarcar varias aplicaciones diseñadas para simular las capacidades de la inteligencia humana. Aprende y se adapta mediante los análisis de datos y el reconocimiento de patrones, lo que le permite realizar tareas con el uso de algoritmos y reglas previamente definidos.

En el ámbito de la automatización, se encuentra la automatización inteligente (AI), que amplía las capacidades de la IA con varias otras tecnologías cognitivas, tales como la automatización robótica de procesos (RPA), la gestión de procesos comerciales (BPM), la inteligencia de procesos, la programación sin código, el procesamiento del lenguaje natural (NLP), entre otras, a fin de automatizar los procesos comerciales y transformar la manera de realizar el trabajo. Cada vez más organizaciones están adoptando un enfoque de automatización para el futuro de su mano de obra. La IA y la RPA en conjunto aportan mayor eficiencia, ahorro de costos y cumplimiento normativo.

¿Qué es la IA generativa?

La IA generativa genera contenido nuevo con base en datos de formación, como imágenes, videos y guiones. Si bien aún hay mucho trabajo por hacer respecto de la seguridad y la normativa de la IA generativa, la tecnología está cada vez más presente en el mercado actual. La IA generativa cuenta con muchos casos de uso, siempre y cuando se implemente teniendo en cuenta las prácticas recomendadas.

Descubra cómo puede prepararse para la IA en nuestra guía integral.

¿Qué es la gobernanza de la IA?

Las iniciativas de gobernanza de la inteligencia artificial son prácticas de las organizaciones para administrar y supervisar las actividades de la IA. Estas prácticas incluyen canales de documentación y auditoría de modelos de IA que muestran cómo se entrena y se prueba la IA y cómo se comporta a lo largo de su ciclo de vida. Una buena gobernanza de la IA también debe describir los aspectos que presentan posibles riesgos, los cuales deben evaluarse y validarse antes de entrar en la producción.

La gobernanza de la IA es especialmente importante en las industrias altamente reguladas tanto del sector público como del sector privado, como son los servicios bancarios y financieros, los seguros y la atención médica. Todas las organizaciones deben tener transparencia en sus modelos de IA a fin de garantizar una auditabilidad bien documentada, ampliar sus capacidades y evitar sanciones.

¿Cuáles son las técnicas de gobernanza de la IA?

La gobernanza de la IA se centra en desarrollar estrategias para garantizar el desarrollo y la implementación seguros y efectivos de las tecnologías de IA. Estas estrategias incluyen lo siguiente.

• Transparencia: Asegúrese de que todos los sistemas de IA estén documentados y sean transparentes de modo que los usuarios y las partes interesadas sepan cómo se toman las decisiones. Es fundamental ofrecer resultados claros y bien documentados, en particular para las industrias más complejas o altamente reguladas, como la banca, en la cual debe haber una gran consideración de los elementos de riesgo financiero.
• Regulación de los algoritmos: Sus modelos de auditoría deben incluir la evaluación de las bases de prueba de los datos en busca de precisión y posibles sesgos.
• Marcos de ética: La adopción de lineamientos éticos sobre el funcionamiento de sus sistemas de IA puede ayudar a promover un comportamiento responsable y garantizar que se cumplen las normativas dentro de su empresa y del gobierno. Estas normas éticas de comportamiento deben incluir un consentimiento informado, protección de la privacidad, mitigación de los sesgos, generación responsable de contenido, auditorías regulares y colaboración de las partes interesadas. Las prácticas éticas promueven una identidad de marca sólida y confiable para su organización.
• Marcos legales: Comprenda los requisitos esenciales de las normativas de su gobierno respecto de la IA. Establezca el modo en que sus modelos de gobernanza lo reflejarán. Este mandato podría surgir de su gobierno nacional, como el gobierno federal de los EE. UU.
• Auditabilidad: Las auditorías regulares de sus sistemas de IA lo ayudarán a identificar riesgos, sesgos y cuestiones éticas, lo que le brinda más agilidad para responder a las políticas públicas cambiantes.
• Seguridad de los datos: Un plan empresarial sólido de gobernanza de los datos garantizará que sus modelos de IA estén formados en un entorno que contiene datos precisos que se obtienen de fuentes éticas. También debe aplicar estas mismas prácticas cuando elija sus LLM (grandes modelos de lenguaje). Tenga en cuenta que es posible que operen en el ámbito público y estén basados en varias fuentes subyacentes de datos.
• Predicción: Establecer resultados comerciales y evaluaciones sobre cómo le gustaría que funcionen sus sistemas de IA puede ser útil para descubrir posibles problemas antes de que surjan y asegurarse de que sus modelos se mantienen encaminados a la vez que mejoran sus funciones comerciales, en lugar de impedirlas.

¿Cuáles son los problemas de gobernanza en la IA?

Si las organizaciones no adoptan una gobernanza de la IA, corren muchos riesgos.

Calidad de los datos

El aprendizaje automático (ML) requiere de buenos datos. Sin una buena calidad de los datos, los procesos y las decisiones que se toman sobre esos datos conducen a obtener malos resultados o resultados poco precisos. Es fundamental contar con buenos datos de formación y buena administración para lograr un programa de IA seguro y ampliable.

Documentación

La documentación clara mostrará a los entes reguladores cómo se creó su modelo de IA y cómo está funcionando. Sin esto, será difícil hacer un seguimiento de su modelo, así como ampliarlo o reproducirlo.

Riesgos externos

Con la falta de gobernanza también vienen los riesgos catastróficos como los ataques de confrontación, filtraciones de datos, falta de privacidad de los datos y violaciones. Esto, a su vez, pone en riesgo la reputación de su organización. Es importante entender las capacidades peligrosas de la tecnología del mismo modo que sus beneficios.

Estas son algunas de las categorías de riesgo a las que debe estar atento:

• El perfilado racial en el reconcomiendo facial de la IA, como un ejemplo. Los sesgos también pueden surgir del género, la edad, la cultura, etc., y pueden conducir a resultados discriminatorios.
• La violación de la propiedad intelectual mediante el entrenamiento de la IA en materiales con derechos de autor.
• Las multas o sanciones por no cumplir con los requisitos legales del gobierno.

¿Qué es la gobernanza de un modelo de IA?

La gobernanza de un modelo de IA es el proceso mediante el cual su organización controla el acceso, establece e implementa políticas y audita el rendimiento del modelo de IA. Es la forma en que puede aportar responsabilidad y transparencia a su sistema de IA.

La gobernanza del modelo de IA es fundamental para crear y mantener la confianza en las tecnologías de IA. Garantiza que los modelos de IA se desarrollen de forma responsable, ayuda a prevenir los posibles daños y maximiza las contribuciones positivas de la IA a diferentes ámbitos.

Existen varios enfoques estratégicos que las organizaciones pueden emplear al establecer la gobernanza de la IA:

1. Lineamientos de desarrollo: Establezca un régimen normativo y prácticas recomendadas para desarrollar sus modelos de IA. Defina fuentes de datos aceptables, metodologías de formación, ingeniería de las funciones y técnicas de evaluación de modelos. Comience con la gobernanza en la teoría y establezca sus propios lineamientos según las predicciones, los posibles riesgos y beneficios y los casos de uso.
2. Administración de los datos: Asegúrese de que los datos que se usan para formar y ajustar los modelos de IA sean precisos y cumplan con los requisitos normativos y de privacidad.
3. Mitigación de sesgos: Incorpore maneras de identificar y abordar los sesgos en los modelos de IA para garantizar resultados justos y equitativos en diferentes grupos demográficos.
4. Transparencia: Exija que los modelos de IA proporcionen explicaciones de sus decisiones, en especial en los sectores de prioridad altamente regulada como la atención médica, las finanzas y los sistemas legales.
5. Validación y pruebas del modelo: Realice una validación y pruebas minuciosas de los modelos de IA para garantizar que funcionan según lo previsto y cumplen con los puntos de referencia de calidad previamente definidos.
6. Supervisión: Supervise de forma constante las mediciones de rendimiento de los modelos de IA implementados y actualícelas para que se adapten a las necesidades cambiantes y las normativas de seguridad. Dada la novedad de la IA generativa, es importante mantener un enfoque de intervención humana que incorpore la supervisión del personal a fin de validar la calidad de la IA y los resultados de rendimiento.
7. Control de la versión: Lleve un registro de las diferentes versiones de sus modelos de IA, juntos con sus datos de formación asociados, configuraciones y mediciones de rendimiento a fin de poder reproducirlos o ampliarlos según sea necesario.
8. Gestión de riesgos: Implemente prácticas de seguridad para proteger los modelos de IA de los ataques cibernéticos, las filtraciones de datos y otros riesgos de la seguridad.
9. Documentación: Conserve documentación detallada de todo el ciclo de vida del modelo de IA, incluidas las fuentes de datos, las pruebas y formación, los hiperparámetros y las mediciones de evaluación.
10. Consejo de gobernanza: Establezca un consejo de gobernanza o un comité responsable de supervisar el desarrollo del modelo de IA, su implementación y su cumplimiento con los lineamientos establecidos que se adaptan a sus objetivos comerciales. Es crucial que involucre a todos los niveles de la mano de obra, desde los líderes hasta los empleados que trabajan con la IA, para garantizar un aporte integral e inclusivo.
11. Auditorías regulares: Realice auditorías para evaluar el rendimiento del modelo de IA, el cumplimiento de la normativa de algoritmos y la adhesión a las normas éticas.
12. Comentarios de los usuarios: Ofrezca mecanismos a los usuario y las partes interesadas para que proporcionen comentarios sobre el comportamiento del modelo de IA y fije medidas de rendición de cuentas en caso de que surjan errores del modelo o efectos negativos.
13. Mejoras continuas: Incorpore las lecciones aprendidas de la implementación de modelos de IA en el proceso de gobernanza a fin de mejorar continuamente las prácticas de desarrollo e implementación.

Mientras tiene todo esto en cuenta, vale la pena pensar en marcos de gobernanza específicos o en conjuntos de reglas a seguir con su modelo de IA a fin de garantizar que se cumplen las prácticas recomendadas.

Prácticas recomendadas para la gobernanza de la IA

Una vez que haya establecido los lineamientos éticos y de seguridad para su modelo de IA, esto es lo que debe hacer:

1. Informar a sus equipos. En todos los niveles y en toda la empresa, asegúrese de que todos entiendan cuáles son sus lineamientos de IA, incluidas las reglas de cumplimiento y privacidad. Utilice los mecanismos de rendición de cuentas y supervisión y fije qué tipos de funciones y responsabilidades tendrá su personal de modo que no falte nada. Asegúrese de que todos entiendan cuáles son sus resultados deseados y que sus equipos y proyectos estén alineados con esos objetivos.
2. Identificar casos de uso. Decida dónde y cuándo desea usar la IA en sus sistemas y cómo se beneficiará su empresa. Incluya los posibles riesgos y problemas.
3. Mantener la conexión humana. Implemente una formación y educación integral en sus estructuras de gobernanza. Eso se aplica a la mano de obra humana y la digital. Conserve documentación clara y mantenga la supervisión a fin de asegurarse de que todo funcione sin interrupciones.
4. Adaptar. Los cambios en el mercado, las normativas, las expectativas de los clientes y las tecnologías en evolución afectarán los quehaceres de su IA. Recopile comentarios de los empleados y clientes con regularidad y supervise su IA para comprobar la calidad de los resultados, la confidencialidad y la eficiencia.

¿Quién es responsable de la gobernanza de la IA?

Con razón, la gobernanza de la IA es responsabilidad de todos los integrantes de la empresa. Contar con un conjunto de lineamientos coherente y cohesivo a seguir garantizará el cumplimiento normativo, la seguridad y la adhesión a los valores de su organización. Pero en última instancia, los líderes de la IA serán el faro que guíe la gobernanza de la IA.

¿Quién regula la IA?

Existen algunas maneras de establecer y mantener un modelo de IA:

• Modelo descendente: Una gobernanza eficaz requiere el patrocinio ejecutivo para mejorar la calidad de los datos, la seguridad y la administración. Los líderes comerciales deben ser responsables de la gobernanza de la IA y de asignar responsabilidades, y un comité de auditorías debe supervisar el control de los datos. Quizás también desee designar a un jefe de datos, alguien que tenga conocimientos en tecnología y que pueda asegurar la gobernanza y la calidad de los datos.
• Modelo ascendente: Equipos individuales pueden asumir la responsabilidad de la seguridad de los datos, el modelado y las tareas que administran a fin de garantizar la estandarización, que, a su vez, permite la capacidad de ampliación.
• Modelado: Un modelo de gobernanza efectivo debe contar con supervisión y actualización continuas a fin de garantizar que el rendimiento cumple con los objetivos generales de la organización. El acceso a este modelo debe darse con la seguridad como principal prioridad.
• Transparencia: Llevar un registro del rendimiento de su IA es igual de importante, ya que garantiza la transparencia ante los clientes y las partes interesadas, y es una parte esencial de la gestión de riesgos. Esto puede (y debe) involucrar a todo el personal de la empresa.

Aporte clave sobre la gobernanza de la IA

Es esencial contar con estrategias de gobernanza bien planificadas cuando se trabaja con la evolución constante de la inteligencia artificial. Asegúrese de que su organización entienda los requisitos legales del uso de estas tecnologías de aprendizaje automático. Establezca normativas de seguridad y regímenes de políticas de gobernanza a fin de mantener los datos seguros, precisos y en cumplimiento.