Un LLM no sabe lo que no debe decir. Lo aprende — pero solo si le dices. En medicina, en finanzas, en educación, esa diferencia es la línea entre una herramienta útil y un riesgo legal.
El problema no es técnico. Es que la mayoría de los demos de «IA en cinco minutos» saltan este paso. Conectan un modelo a un chat, agregan el logo del cliente, y lo entregan. Funciona, sí. Hasta que un paciente le pregunta al bot si puede tomar X medicamento con Y, y el bot responde con la confianza de quien aprobó medicina, sin haberla cursado.
Un guardrail no es un filtro de palabras. Es una capa de política, una capa de validación, una capa de escalamiento humano, y una capa de logs auditables. Cuatro cosas, no una.
En el hospital, el agente que contesta WhatsApp tiene una sola regla por encima de las demás: si el mensaje contiene síntomas, agenda — no diagnostica. La regla está codificada. La regla está probada. La regla tiene una alarma si alguna vez se rompe.
Eso no es lentitud: es el mínimo razonable. Lo lento es pretender que el modelo decida solo.
¿Te sirvió esto? Recibo cada semana. Una observación, una nota técnica, una cosa aprendida.
suscribirme →