Riesgos de la inteligencia artificial en las empresas y cómo controlarlos

Key Takeaways

• El riesgo más común de la IA en una empresa no es un ataque sofisticado, es un error que nadie revisó. Casi un tercio de los encuestados por McKinsey reportó consecuencias por respuestas inexactas de la IA (The State of AI, noviembre de 2025).
• El 51% de los encuestados de organizaciones que usan IA dice que su organización ya sufrió al menos una consecuencia negativa (McKinsey, 2025).
• La empresa responde por lo que dice su IA. En 2024 un tribunal canadiense obligó a Air Canada a compensar a un pasajero por la información errónea que le dio su chatbot, y rechazó el argumento de que el chatbot respondía por sí mismo.
• En Colombia ya hay jurisprudencia: la Corte Constitucional fijó en la sentencia T-323 de 2024 criterios para el uso de IA por jueces, y la Corte Suprema multó a un abogado por presentar citas inexistentes generadas con IA.
• Los riesgos se controlan con revisión humana proporcional al costo del error, no con prohibiciones. Donde un error sale caro, una persona revisa. Donde no, la IA trabaja sola.

Casi todas las conversaciones sobre riesgos de la inteligencia artificial terminan en uno de dos extremos: o la IA va a destruir empleos y empresas, o no pasa nada y hay que adoptarla ya. Para un gerente de una empresa mediana ninguno de los dos sirve.

Los riesgos reales de la IA en una empresa son más concretos y más fáciles de controlar de lo que parece. Esta guía los ordena por lo que de verdad le pasa a las empresas, con casos documentados, y explica qué control funciona para cada uno. Hace parte de nuestra guía de inteligencia artificial para empresas.

¿Cuáles son los riesgos de la IA en una empresa?

Los riesgos de la IA en una empresa se pueden agrupar en seis: errores que parecen ciertos, responsabilidad legal por lo que dice la IA, fuga de información, incumplimiento de normas de datos personales, ataques nuevos contra los sistemas de IA, y costos o dependencia de un proveedor. No todos pesan igual para todas las empresas.

La encuesta The State of AI de McKinsey de 2025 muestra cuál aparece primero: el 51% de los encuestados de organizaciones que usan IA dice que ya vivió al menos una consecuencia negativa, y casi un tercio de todos los encuestados reporta consecuencias por inexactitud.

¿Qué pasa cuando la IA se equivoca con seguridad?

Cuando la IA se equivoca, lo hace con el mismo tono seguro con el que acierta, y ese es el riesgo. Los modelos de lenguaje generan el texto más probable, no el verdadero. La Corte Constitucional de Colombia lo resumió en la sentencia T-323 de 2024: "No siempre la siguiente palabra más probable es la más correcta o cierta desde el punto de vista fáctico".

El caso más conocido es Mata v. Avianca. En 2023, en una demanda contra la aerolínea en Nueva York, los abogados del demandante presentaron fallos judiciales que no existían, con citas inventadas por ChatGPT, y siguieron defendiéndolos cuando la corte preguntó. El juez los multó con 5.000 dólares y dejó una frase útil para cualquier empresa: no hay nada indebido en usar una herramienta de IA confiable, el problema es no verificar lo que produce.

Colombia ya tiene su propia versión. La Sala de Casación Civil de la Corte Suprema de Justicia, en el auto AC739-2026, multó con 15 salarios mínimos a un abogado que presentó un recurso con diez citas de jurisprudencia inexistentes generadas con IA, y calificó la verificación de fuentes como una carga que no se puede delegar.

En una empresa el equivalente es una propuesta con una cifra de mercado inventada, un contrato resumido con una cláusula que no existe o un informe financiero con un cálculo mal hecho. El control es el mismo en todos los casos: una persona con nombre propio revisa lo que sale de la empresa.

¿La empresa responde por lo que dice su IA?

Sí. Lo que dice un chatbot, un agente o un documento generado con IA en nombre de la empresa compromete a la empresa. En Moffatt v. Air Canada, un tribunal de British Columbia resolvió en 2024 el reclamo de un pasajero al que el chatbot de la aerolínea le explicó mal la política de tarifas por duelo. Air Canada argumentó que el chatbot era una entidad separada, responsable de sus propias acciones. El tribunal lo llamó un argumento "notable" y concluyó que la empresa responde por toda la información de su sitio web, venga de una página estática o de un chatbot.

La compensación fue pequeña, cerca de 800 dólares canadienses, pero el precedente no. Si tu empresa pone un asistente de IA a responder clientes, lo que ese asistente prometa es una promesa de la empresa.

El control práctico es limitar qué puede afirmar el sistema, conectarlo solo a información oficial y actualizada, y revisar una muestra de sus respuestas cada semana. Si un tema tiene consecuencias económicas o legales, como precios, garantías o reembolsos, lo mejor es que el sistema remita a una persona.

¿Cómo se filtra información de la empresa a través de la IA?

La información se filtra sobre todo por el shadow AI: empleados que usan herramientas personales con información de la empresa porque nadie les dio una alternativa. El Cost of a Data Breach Report 2026 de IBM encontró que los incidentes de seguridad que involucran shadow AI subieron del 20% al 43% en un año, en una muestra de 602 organizaciones que sufrieron una brecha.

Este riesgo no se controla prohibiendo, sino con una política clara y una herramienta aprobada. Lo explicamos paso a paso en política de uso de IA: cómo controlar el shadow AI.

¿Qué dice la regulación sobre los riesgos de la IA?

En Colombia no hay una ley específica de IA a septiembre de 2026, pero la protección de datos personales ya aplica. La Circular Externa 002 de 2024 de la SIC exige, entre otras cosas, evaluar el impacto en privacidad antes de diseñar un sistema de IA de alto riesgo y recuerda que un dato disponible en internet no es público por ese solo hecho.

La SIC ya mostró que actúa. En octubre de 2025 ordenó el cierre inmediato y definitivo del tratamiento de datos de World (Worldcoin) en Colombia y la eliminación de los códigos de iris recolectados, al concluir que la aceptación del tratamiento de datos sensibles se condicionaba con incentivos económicos. No es un caso de IA generativa, pero muestra el criterio con el que la autoridad mira la tecnología que usa datos personales.

Si tu empresa vende a Europa, también le aplica la Ley de IA de la Unión Europea, que cubre a proveedores de otros países cuando el resultado de su sistema se usa en la Unión. La mayoría de sus normas generales rigen desde el 2 de agosto de 2026, y con el ajuste aprobado en 2026 las obligaciones para sistemas de alto riesgo, como los que evalúan personal o crédito, se aplazaron hasta diciembre de 2027. Esta sección es orientación general, no asesoría legal.

¿Qué riesgos nuevos traen los agentes de IA?

Los agentes traen un riesgo que un asistente no tiene: pueden actuar. Si un agente lee correos y puede enviar respuestas, un correo con instrucciones escondidas puede intentar que haga algo que nadie autorizó. Ese ataque se llama prompt injection y es el primer riesgo de la lista OWASP Top 10 para aplicaciones con modelos de lenguaje de 2025. En la misma lista aparece la "agencia excesiva", que es darle a un sistema más permisos de los que necesita.

El control es darle al agente los permisos mínimos para su tarea y exigir aprobación humana en todo lo que modifica información o sale de la empresa. Lo desarrollamos en qué es un agente de IA y para qué sirve.

¿Cómo se controlan los riesgos de la IA sin frenar su uso?

Los riesgos se controlan ajustando la revisión humana al costo de un error. No tiene sentido revisar cada resumen interno que prepara la IA, y sí tiene sentido revisar cada cifra que va en una propuesta a un cliente. Esta matriz ayuda a decidir:

Para ordenar el trabajo de fondo existen marcos de referencia como el AI Risk Management Framework del NIST, de uso voluntario, que organiza la gestión en cuatro funciones: gobernar, mapear, medir y gestionar. Una empresa mediana no necesita implementarlo completo, pero su lógica sirve: saber qué sistemas de IA se usan, dónde puede fallar cada uno, cómo se va a notar y quién responde.

Caso real: cómo controlamos el riesgo de error en nuestro agente de investigación

En Suricata Labs usamos un agente de IA propio que investiga empresas. Le damos el nombre o el sitio web de una compañía y en 5 a 10 minutos entrega un informe sobre su sector, sus productos y su competencia, un trabajo que a un consultor junior le tomaba cerca de 10 horas.

El riesgo de ese agente es el de la primera fila de la tabla de riesgos, un error con apariencia de verdad: puede confundir una empresa con otra del mismo nombre, asignarle un competidor equivocado o presentar como actual un dato viejo. Por eso el informe no sale de la empresa ni alimenta una decisión por sí solo. Es el primer insumo del equipo, y un consultor lo lee, verifica lo que importa y profundiza donde hace falta antes de usarlo.

El control no le quita el valor al agente. Revisar un informe toma una fracción del tiempo que tomaba escribirlo, y la verificación queda en manos de alguien que conoce el contexto. Es el mismo principio que la Corte Suprema le exigió al abogado: la herramienta puede hacer el trabajo, la verificación no se delega.

En los programas de formación en IA que operamos, como el de 117 asesores en El Salvador, cada asesor trabajó sobre una empresa real, y aprender a revisar lo que produce la IA hizo parte del trabajo, no de un módulo aparte.

Preguntas frecuentes sobre riesgos de la IA en las empresas

¿Cuál es el mayor riesgo de la IA para una empresa mediana?

El mayor riesgo para una empresa mediana es que un error de la IA llegue a un cliente o a una decisión sin que nadie lo revise. Es el más frecuente según McKinsey y el más fácil de controlar: basta con definir qué debe revisar una persona antes de que salga de la empresa.

¿La empresa es responsable por los errores de su chatbot o de su IA?

Sí, en general la empresa responde por lo que su IA le dice a clientes y terceros. El caso Moffatt v. Air Canada de 2024 es el precedente más citado: el tribunal rechazó que el chatbot fuera una entidad aparte y obligó a la aerolínea a responder por la información que dio. Esta respuesta es orientación general, no asesoría legal.

¿Qué ley regula la inteligencia artificial en Colombia?

A septiembre de 2026 no hay una ley específica de IA en Colombia. Aplican la Ley 1581 de 2012 de protección de datos personales y la Circular Externa 002 de 2024 de la SIC, que la aterriza a sistemas de IA. El CONPES 4144 de 2025 fija la política nacional de IA, pero no obliga a las empresas, y en el Congreso hay un nuevo proyecto de ley en trámite.

¿Qué es una alucinación de la IA?

Una alucinación es una respuesta de la IA que suena cierta pero es falsa, como una cifra, una cita o un hecho inventado. Ocurre porque los modelos de lenguaje generan el texto más probable, no el verificado. Se controla pidiendo fuentes, conectando la IA a información oficial de la empresa y revisando lo que va a usarse para decidir o para enviar a terceros.

¿Por dónde empiezo a gestionar los riesgos de la IA en mi empresa?

Empieza por saber qué herramientas de IA usa hoy tu equipo y con qué información, porque la mayoría de los riesgos vienen de usos que nadie conoce. Después define una política corta de uso y los puntos donde una persona debe revisar antes de que algo salga de la empresa. Con eso cubres la mayor parte del riesgo sin frenar la adopción.

El riesgo más grande es no saber cómo se está usando

Una empresa que sabe qué herramientas de IA usa su equipo, con qué información y quién revisa lo que sale, ya controló la mayoría de los riesgos. Los casos que terminan en tribunales y en multas casi siempre tienen algo en común: nadie verificó lo que produjo la IA antes de usarlo.

Si quieres revisar cómo se está usando la IA en tu empresa y dónde conviene poner controles, en Suricata Labs lo hacemos con tu equipo, junto con la política de uso y los primeros procesos donde vale la pena aplicarla.

Conoce nuestros servicios de IA | Agenda una conversación

Lee también: Política de uso de IA: cómo controlar el shadow AI