¿Pondrías a tus clientes en un vehículo sin frenos?
Imposible. Garantizar la seguridad y la transparencia en la relación con los clientes es uno de los fundamentos de una organización responsable. Con esta analogía, CriterIA dio inicio al lanzamiento oficial de su marca, una propuesta que busca responder a uno de los desafíos que plantea el avance de la inteligencia artificial: cómo incorporar estas tecnologías sin perder de vista los riesgos, los controles y el criterio humano.
La nueva propuesta busca acompañar a las organizaciones en la identificación de su nivel de madurez, la gestión de posibles riesgos y el desarrollo de soluciones seguras, escalables y alineadas con sus objetivos de negocio. El propósito es que estas tecnologías puedan integrarse como herramientas para la innovación y la generación de valor, sin dejar de lado el análisis y la perspectiva humana.
Gobernanza de IA hecha por humanos
Hablar de gobernanza de inteligencia artificial implica hablar de la capacidad de una organización para gestionar estas tecnologías de manera segura, responsable y acorde con sus objetivos. Esto comprende establecer políticas y responsabilidades claras, definir cómo se utilizan y protegen los datos, identificar posibles riesgos y establecer mecanismos de supervisión frente a aspectos como la seguridad, la privacidad, los sesgos y el cumplimiento normativo.
Más allá de implementar herramientas, una adecuada gobernanza permite establecer bajo qué criterios se utilizan, quién responde por las decisiones apoyadas en ellas y cómo se evalúa su impacto dentro del negocio.
En este contexto, Jaiver Padilla Téllez, CTO de CriterIA, destacó la importancia de contar con evidencia que permita evaluar el despliegue de agentes de IA. Según explicó, aunque actualmente resulta cada vez más común implementar este tipo de soluciones, todavía existen interrogantes sobre la forma en que se están realizando estos procesos y sobre los controles aplicados para evitar riesgos relacionados con los datos. “Hoy en día nos parece muy natural desplegar agentes y utilizarlos, pero muy pocas personas se detienen a preguntar si lo están haciendo de la manera correcta”, señaló Padilla Téllez.
La propuesta de CriterIA parte precisamente de la necesidad de acompañar a las organizaciones en la incorporación de estas tecnologías mediante controles y procesos de evaluación que permitan identificar sus capacidades, limitaciones y posibles impactos.
El encuentro contó con la participación de representantes de compañías como Juan Valdez, Natura, ETB, Colmena Seguros, Grupo Colgas, Mastercard, Grupo Keralty, Amazon Web Services y Microsoft, entre otras. Además de presentar esta nueva propuesta, la jornada permitió abordar los principales desafíos que enfrentan las organizaciones al incorporar soluciones basadas en inteligencia artificial y llevarlas a sus operaciones.
Uno de ellos está relacionado con las pruebas previas al despliegue. Javier Bastante, director senior de Alianzas en Tesmu AI, anteriormente LambdaTest, y uno de los ponentes del evento, explicó que la alianza con CriterIA busca trabajar precisamente en la evaluación de agentes de IA.
Durante su intervención, Bastante abordó algunas de las dificultades que están encontrando las compañías al llevar estos sistemas a producción, particularmente cuando son implementados sin procesos de prueba suficientes. “Compartí muchos de los problemas que están teniendo compañías y grandes corporativos con agentes de IA que están lanzando a producción sin ningún tipo de pruebas”, afirmó.
Lo expuesto durante el encuentro deja sobre la mesa uno de los principales retos frente al avance de estas tecnologías, pues no se trata únicamente de incorporarlas, también implica hacerlo con claridad sobre los riesgos y las condiciones que acompañan cada implementación. En ese sentido, incorporar la IA también exige saber cuándo acelerar, cuándo detenerse y, sobre todo, contar con las herramientas necesarias para mantener el control del camino.
Consulta toda la información a través de su sitio web: https://www.criteria.la/es
