Qué datos recibe la IA cuando consulta información de tu empresa.
Depende del diseño de la instalación. Hay que identificar el contexto que se envía al modelo y comprobar cómo se selecciona, transforma y registra.
- Autoría:
- High Core Data
- Publicación:
El contexto debe tener un alcance
Una pregunta no requiere necesariamente todas las tablas ni todos los documentos. Se puede preparar un contexto limitado a la información necesaria y autorizada. El alcance debe aplicarse antes del envío y no quedar como una petición informal dentro del prompt.
Los identificadores pueden transformarse
Sustituir un nombre por una referencia puede reducir la exposición. Si existe una correspondencia que permite recuperar la identidad, hablamos de seudonimización y seguimos teniendo que protegerla. Tampoco basta con quitar nombres si otros campos permiten identificar a una persona.
Los documentos también pueden contener instrucciones
Un archivo recuperado puede incluir textos que intenten alterar el comportamiento de la IA. La instalación debe tratarlo como contenido no confiable y conservar fuera del modelo las reglas de permisos y las acciones permitidas.
Lo que conviene poder revisar
Qué fuente se utilizó, qué perfil hizo la consulta, qué contexto estaba autorizado y qué proveedor intervino. Los registros también pueden contener información sensible: necesitan accesos y conservación definidos.
La pregunta que debes hacer al proveedor
Pídele que describa un recorrido completo: desde tu petición hasta la respuesta, señalando dónde se ejecuta cada parte y qué información cruza cada límite. Esa explicación debe coincidir con las pruebas y la configuración entregadas.