Asistente de IA con documentos de empresa: qué resuelve y cómo hacerlo seguro

El problema suele ser encontrar, no generar

Muchas empresas ya tienen la respuesta, pero está repartida entre manuales, carpetas, correos y la memoria de personas clave. Un asistente puede recibir una pregunta, recuperar fragmentos relevantes y redactar una respuesta. Su valor depende de encontrar la fuente correcta, no de producir texto elegante.

Por eso el primer entregable es un inventario: documentos vigentes, dueño, audiencia y fecha. Los archivos duplicados o contradictorios se resuelven antes de conectarlos. Un asistente no puede gobernar conocimiento que la empresa no ha decidido cuál es oficial.

Cómo funciona sin “entrenarlo con todo”

Una arquitectura común indexa documentos y recupera fragmentos relacionados con la pregunta. El modelo recibe esos fragmentos y redacta dentro de sus límites. Los documentos pueden actualizarse sin reentrenar el modelo completo. Aun así, hay decisiones sobre división, etiquetas, búsqueda y relevancia que deben probarse.

La respuesta debería mostrar referencias o enlaces y distinguir cita de interpretación. Para preguntas críticas puede limitarse a extractos y pedir confirmación. Si no encuentra evidencia suficiente, debe decirlo y señalar a quién escalar, no llenar el espacio con una respuesta plausible.

Permisos y ataques desde documentos

No todos los usuarios deben consultar todo. Los permisos se verifican antes de recuperar contenido y no solo en la interfaz. Además, un documento puede contener instrucciones maliciosas o texto que intenta cambiar el comportamiento del agente. Trátalo como datos, no como órdenes.

Aplica mínimos privilegios, aislamiento por cliente o área, registros de consulta y revisión de fuentes. Evita indexar credenciales, bases de datos exportadas o archivos personales. Si el asistente puede ejecutar acciones, separa lectura de escritura y exige confirmación para cambios.

• Fuentes con dueño y vigencia
• Permisos aplicados en recuperación
• Referencias visibles
• Respuesta segura sin evidencia
• Pruebas de filtración e instrucciones maliciosas

Qué probar antes de abrirlo al equipo

Crea preguntas fáciles, ambiguas, cruzadas y sin respuesta. Verifica que encuentre la versión vigente, no mezcle áreas y no revele contenido restringido. Incluye nombres parecidos, políticas antiguas y preguntas que requieran más de una fuente. Registra precisión de recuperación por separado de la calidad de redacción.

Empieza con un grupo pequeño y un botón de feedback que capture la causa. Una respuesta mala puede deberse a documento faltante, permiso, búsqueda, instrucción o redacción. Clasificarla permite corregir el componente adecuado y construir confianza con evidencia.