Reflexiones sobre la IA frente a las fuerzas económicas, en el marco del Foro Económico Mundial de Davos, Suiza

La IA y la próxima frontera de la innovación: Por qué la confianza definirá la oportunidad para 20 billones de dólares.

Por Jonathan Zanger, Director de Tecnología de Check Point Software.

La IA está transformando la forma en que las industrias operan, compiten y crean valor a una velocidad sin precedentes. Para 2030, se proyecta que añadirá casi 20 billones de dólares al PIB mundial, consolidando su posición como una de las fuerzas económicas más poderosas de nuestro siglo. Sin embargo, a medida que la IA se integra más profundamente en las operaciones comerciales, emerge rápidamente una nueva frontera de riesgo, arraigada en la frágil comprensión que tienen las máquinas del significado y el contexto del lenguaje humano.

La IA de generación y los grandes modelos de lenguaje (LLM) se están convirtiendo en el núcleo de los flujos de trabajo críticos en todos los sectores. Las instituciones financieras los implementan para analizar los mercados y anticipar la volatilidad. Los fabricantes los integran para orquestar cadenas de suministro complejas. Las organizaciones sanitarias los aplican para clasificar la información y acelerar la investigación.

Pero a medida que aumenta la dependencia de los sistemas de IA de generación, también lo hace una nueva clase de amenazas que explotan la comunicación, no el código. Se centran en lo que la IA entiende, en lugar de en cómo se ejecuta. Y están surgiendo a una velocidad mayor de la que la mayoría de las organizaciones están preparadas para detectar y defenderse.

LLMs y el panorama de amenazas emergentes

Tradicionalmente, la ciberseguridad se ha centrado en fortalecer la infraestructura: bloquear redes, corregir vulnerabilidades e implementar controles de identidad. Sin embargo, el panorama de amenazas actual está evolucionando hacia algo más sutil y aún más difícil de detectar. Los ciberdelincuentes ya no necesitan explotar fallas de software ni vulnerar una red para causar daños. Pueden manipular la forma en que los sistemas de IA interpretan el lenguaje, convirtiendo la semántica en una superficie de ataque.

Las instrucciones maliciosas ocultas pueden estar a simple vista, en datos públicos, material de capacitación, información de clientes o documentación de código abierto. Estas manipulaciones pueden redirigir el razonamiento de un modelo, distorsionar sus resultados o comprometer la información que proporciona a los responsables de la toma de decisiones. Dado que estos ataques se producen en lenguaje natural, las herramientas de seguridad tradicionales rara vez los identifican. El modelo se ve afectado en su origen, mucho antes de que alguien se dé cuenta de que algo anda mal. Para las organizaciones que carecen de la preparación y la protección adecuadas, esto representa un riesgo grave y, a menudo, invisible.

Esta no es una amenaza hipotética. A medida que más organizaciones adoptan sistemas de IA autónomos y semiautónomos, el incentivo para que los adversarios ataquen la capa de lenguaje no hace más que crecer. El coste de entrada para los atacantes es bajo y el daño potencial es enorme.

La amenaza interna silenciosa

Cuando un modelo de IA se ve comprometido, se comporta como una amenaza interna. Puede filtrar silenciosamente propiedad intelectual, alterar recomendaciones estratégicas o generar resultados que beneficien a un tercero. El reto reside en su invisibilidad: actúa sin alertar. El sistema sigue respondiendo preguntas, resumiendo documentos, procesando datos y ayudando a los empleados. Simplemente, hace todo esto de forma sutilmente desalineada.

Lo que estamos observando ahora es un cambio en el riesgo empresarial: de la protección de datos a la protección del conocimiento. La pregunta clave para los responsables de seguridad ya no se limita a los derechos de acceso, sino a qué han absorbido sus modelos y de dónde.}

La brecha de gobernanza

A pesar de la magnitud de la amenaza, muchas organizaciones siguen centrándose en quién utiliza la IA en lugar de en qué asimilan sus sistemas de IA. Esta brecha se amplía a medida que se acelera la adopción de la IA y aumenta la autonomía. Construir ecosistemas de IA confiables y resilientes requiere que las empresas verifiquen la integridad y autenticidad de cada conjunto de datos, instrucción y fuente de contenido que alimenta sus modelos.

Esto se alinea estrechamente con un tema central que emerge para Davos 2026: materializar el enorme potencial económico de la IA depende de una implementación responsable y una confianza verificable. La IA no puede seguir siendo una caja negra, ni puede consumir pasivamente datos sin control. Los sistemas que generen el mayor valor económico y social serán aquellos diseñados con trazabilidad, transparencia y rendición de cuentas como elementos centrales.

Generar confianza en el núcleo de la IA

Abordar este nuevo panorama de amenazas comienza con un principio simple pero transformador: confianza cero. No confiar en nada. Verificar todo, continuamente. Si bien la confianza cero no es un concepto de seguridad nuevo, su alcance debe extenderse más allá de los controles de acceso e incluir los datos e instrucciones que entrenan y guían los sistemas de IA. Esto requiere una monitorización constante de la evolución de los modelos, rastreando el origen de su conocimiento e integrando la rendición de cuentas a lo largo de todo el ciclo de vida de la IA. La alfabetización en IA, la procedencia de los datos y la confianza digital deben ahora integrarse, junto con los criterios ESG y la ciberseguridad, como prioridades de la junta directiva, ya que la integridad de la inteligencia empresarial depende cada vez más de ellos.

La conciencia global sobre estos riesgos está creciendo. El Marco de Riesgos y Seguridad de la IA de la OCDE, publicado en 2025, e iniciativas internacionales similares reconocen la manipulación de datos y el uso indebido de la IA como áreas críticas que exigen estándares y supervisión compartidos. Para las empresas, alinear la gobernanza con estos marcos fortalece la resiliencia operativa y refuerza la confianza pública.

Protegiendo la IA protegiendo el lenguaje que entiende

Para alcanzar el máximo potencial de la IA, los líderes cibernéticos deben asumir la idea de que la inteligencia segura es inteligencia sostenible. La próxima era de la ciberseguridad se definirá no por la defensa de los sistemas, sino por la defensa de la semántica. La integridad de cómo las máquinas razonan, interpretan y se comunican se está convirtiendo en un activo estratégico.

Proteger la IA significa proteger el lenguaje mismo en el que se basa. La confianza definirá la próxima frontera de la innovación. Las organizaciones y naciones que lideran este espacio tratarán la confianza como un diferenciador competitivo y como una responsabilidad global compartida.