Inteligencia Artificial
¿Cómo clasificar los riesgos de un sistema de inteligencia artificial?
Respuesta directa
Un sistema de IA se clasifica por riesgo combinando cinco criterios: impacto de un error, autonomía de decisión, sensibilidad de los datos, tipo de usuarios afectados y reversibilidad de la acción. Con eso se ubica en un nivel bajo, medio, alto o crítico, cada uno con controles mínimos distintos. Esta clasificación es una herramienta práctica de gestión interna, no una categoría legal ni una certificación oficial.
Antes de decidir cuánta supervisión, presupuesto y controles necesita un proyecto de inteligencia artificial, conviene responder una pregunta más simple: ¿qué tan riesgoso es este sistema en particular? No todos los usos de IA merecen el mismo nivel de exigencia: un asistente que sugiere respuestas para que un agente humano las revise no es comparable con un sistema que aprueba o rechaza créditos de forma automática. Este artículo propone una clasificación práctica —no oficial ni legal— para ubicar cualquier sistema de IA en un nivel de riesgo y así decidir con criterio qué controles son razonables antes de invertir tiempo en un proceso formal de evaluación, que es el tema de otro artículo de este mismo grupo.
Por qué clasificar antes de evaluar
Muchas empresas medianas cometen el mismo error en direcciones opuestas: tratan un chatbot informativo con el mismo rigor que un sistema que decide sobre nóminas, o lanzan un sistema de decisión automática con la misma ligereza que un generador de textos de marketing. Ambas fallas vienen de no tener una forma rápida de ubicar el nivel de riesgo de un sistema antes de decidir cuánto esfuerzo de control merece.
Clasificar el riesgo no sustituye una evaluación formal ni un marco de cumplimiento; es un paso previo de triage que ayuda a decidir, en minutos, si un proyecto puede avanzar con controles ligeros o si requiere una revisión más profunda antes de tocar datos reales o usuarios reales.
Relacionado: ¿Cómo crear una política de uso de inteligencia artificial en una empresa?
Los cinco criterios que determinan el nivel de riesgo
Ningún criterio aislado define el riesgo de un sistema de IA; es la combinación la que importa. Un sistema puede manejar datos sensibles pero tener autonomía nula (solo sugiere, un humano decide), lo que baja su riesgo real frente a otro que usa datos poco sensibles pero actúa de forma totalmente autónoma sobre clientes.
- Impacto de un error: qué tan grave es una decisión equivocada (una recomendación de producto vs. una denegación de servicio).
- Autonomía de decisión: si el sistema solo sugiere, actúa con aprobación humana, o ejecuta acciones sin supervisión previa.
- Tipo de datos: si procesa información pública, datos personales, datos financieros o categorías sensibles.
- Tipo de usuarios afectados: empleados internos capacitados, clientes finales, o personas vulnerables (menores, solicitantes de crédito, pacientes).
- Reversibilidad de la acción: si un error se puede corregir fácilmente (editar un borrador) o es difícil o imposible de revertir (un pago enviado, un contrato firmado).
Relacionado: ¿Qué es Shadow AI y cómo controlarlo en una empresa?
Si quieres aplicar esto a un proceso real de tu empresa, conoce nuestro servicio de IA aplicada a la operación.
Niveles de riesgo y controles mínimos
La siguiente tabla propone cuatro niveles prácticos —bajo, medio, alto y crítico— con ejemplos y controles mínimos orientativos. No corresponde a ninguna categorización legal ni a un estándar oficial: es una guía interna de trabajo que cada empresa puede adaptar a su propio contexto y apetito de riesgo.
| Nivel | Ejemplo típico | Controles mínimos |
|---|---|---|
| Bajo | Asistente de redacción interna, resúmenes de documentos públicos | Revisión ocasional de calidad, sin aprobación previa obligatoria |
| Medio | Chatbot de atención al cliente con respuestas sugeridas | Revisión humana antes de enviar, monitoreo de conversaciones, límites de tema |
| Alto | Preselección de candidatos, priorización de leads con impacto comercial directo | Evaluación formal de riesgos, aprobación de un responsable, auditoría periódica, posibilidad de apelar la decisión |
| Crítico | Aprobación automática de crédito, decisiones médicas o de seguridad sin revisión humana | Evaluación formal exhaustiva, revisión humana obligatoria, comité de aprobación, monitoreo continuo y plan de reversión inmediata |
Clasificación editorial de referencia; no sustituye un análisis legal ni normativo específico para el sector o país de operación.
Relacionado: ¿Quién debe ser responsable de la inteligencia artificial en una empresa?
Clasificación vs. evaluación: no son lo mismo
Clasificar es un ejercicio rápido de ubicación: en pocos minutos, un responsable de negocio puede estimar en qué nivel cae un sistema usando los cinco criterios anteriores. Evaluar el riesgo es un proceso documentado, con pasos definidos, evidencia y una decisión formal de aprobación, que normalmente se activa quue un sistema se clasifica como de riesgo alto o crítico.
Pensar la clasificación como el filtro de entrada y la evaluación como el proceso profundo evita dos errores comunes: someter cada proyecto pequeño a un proceso burocrático innecesario, o dejar pasar sin ningún control un sistema que en realidad toca decisiones sensibles.
Relacionado: ¿Necesita mi empresa un comité de inteligencia artificial?
Señales que suben el nivel de riesgo
Hay señales concretas que, cuando aparecen, deberían mover a un sistema hacia un nivel superior de riesgo aunque en principio pareciera de bajo impacto: que el sistema tome la decisión final sin intervención humana, que afecte a personas fuera de la empresa, que use datos personales o financieros, o que sus errores sean difíciles de detectar a simple vista.
Señales que ameritan subir de nivel
- El sistema decide sin que un humano revise antes de que el efecto sea irreversible.
- Afecta a clientes, candidatos o público externo, no solo a empleados internos.
- Procesa datos personales, financieros o categorías sensibles.
- Un error del sistema sería difícil de detectar sin auditoría específica.
- El sistema opera a gran escala o volumen, amplificando cualquier falla.
Cómo aplicar esta clasificación en la práctica
En la práctica, conviene que cada proyecto de IA pase por esta clasificación antes de asignar presupuesto o fecha de lanzamiento, no después. Un formulario breve con los cinco criterios, revisado por el responsable del proyecto y por alguien de negocio (no solo técnico), suele bastar para ubicar el nivel de riesgo en menos de media hora.
Esta clasificación también debe revisarse cuando un sistema cambia de alcance: un asistente que empezó como borrador de correos y termina enviando mensajes automáticamente a clientes ya no es el mismo sistema de bajo riesgo con el que se aprobó originalmente.
Relación con la evaluación de riesgos y los controles de producción
Esta clasificación es el punto de partida de dos procesos posteriores que se tratan en artículos aparte: el proceso formal de evaluación de riesgos, que documenta impacto, probabilidad, controles y aprobación; y la puerta de controles previa a producción, que define qué debe existir —logging, guardrails, revisión humana, plan de rollback— antes de que un sistema salga en vivo. Un sistema de nivel bajo puede saltar directo a controles ligeros de producción; uno de nivel alto o crítico normalmente necesita pasar primero por la evaluación formal.
Fuentes de referencia
Marcos conceptuales útiles para adaptar una clasificación de riesgo interna; ninguno constituye por sí mismo una obligación legal.
- NIST AI Risk Management Framework
Marco de referencia para gestionar riesgos de IA.
- NIST AI RMF Generative AI Profile
Perfil específico para riesgos de IA generativa.
- Microsoft Responsible AI Standard
Principios de IA responsable de Microsoft.
- OWASP AI Security and Privacy Guide
Guía de seguridad y privacidad para sistemas de IA.
Preguntas frecuentes
- ¿Esta clasificación de riesgo es un requisito legal?
- No. Es una herramienta práctica de gestión interna para decidir cuánto control aplicar a un sistema de IA. No corresponde a ninguna ley específica ni sustituye un análisis legal si el sistema opera en un sector regulado o maneja datos personales sujetos a normativa de privacidad.
- ¿Quién debería hacer esta clasificación dentro de la empresa?
- Idealmente el responsable del proyecto junto con alguien del área de negocio afectada, no solo el equipo técnico. La clasificación depende de criterios de impacto y usuarios que el área técnica no siempre conoce a fondo.
- ¿Un sistema de bajo riesgo puede subir de nivel después?
- Sí. Cualquier cambio de alcance, de autonomía o de tipo de usuario afectado debe disparar una nueva clasificación. Un sistema que empieza como sugerencia interna y termina actuando sobre clientes ya no pertenece al mismo nivel.
- ¿Qué pasa si dos criterios apuntan a niveles distintos?
- Se toma el nivel más alto de los dos como referencia conservadora. Es preferible sobreestimar ligeramente el riesgo y aplicar un control adicional que subestimarlo y dejar sin supervisión una decisión sensible.
- ¿Esta clasificación reemplaza la evaluación formal de riesgos?
- No, la complementa. La clasificación es un filtro rápido; la evaluación formal es el proceso documentado con impacto, probabilidad, controles y aprobación que se activa normalmente para sistemas de riesgo alto o crítico.