La Circular 002 de 2024 de la SIC, leída para un agente de WhatsApp

Si atiendes clientes por WhatsApp con ayuda de un sistema de inteligencia artificial, hay una circular de la Superintendencia que te aplica. Esta nota dice qué pide y qué significa en la práctica.

El 21 de agosto de 2024 la Superintendencia de Industria y Comercio publicó la Circular Externa 002 de 2024, «Lineamientos sobre el Tratamiento de Datos personales en Sistemas de Inteligencia Artificial». Son ocho páginas dirigidas a los «sujetos vigilados por la Superintendencia de Industria y Comercio en su rol de Autoridad de Protección de Datos personales». En la práctica, eso es cualquier empresa que trate datos personales en Colombia. La Ley 1581 de 2012 no distingue por tamaño.

La circular no crea una ley nueva. Su tesis es que las leyes estatutarias 1266 de 2008 y 1581 de 2012 «son normas neutrales temática y tecnológicamente». O sea, le aplican a un agente de inteligencia artificial igual que a un archivador.

Cita la Sentencia T-323 de 2024 de la Corte Constitucional: «cualquier sistema de IA debe garantizar el cumplimiento de estas normatividades». Y recuerda el principio del que cuelga todo, la responsabilidad demostrada. El responsable debe poder probarle a la SIC, cuando esta lo pida, que tomó «medidas apropiadas y efectivas».

Un agente de WhatsApp que lee lo que escribe un cliente, lo guarda y se lo manda a un modelo de lenguaje para redactar la respuesta es, exactamente, un sistema de IA que trata datos personales.

La circular instruye en diez puntos numerados. Resumidos:

1. Todo tratamiento con IA exige una ponderación con cuatro criterios. Idoneidad: sirve para el fin. Necesidad: no hay medida menos invasiva igual de eficaz. Razonabilidad: persigue fines constitucionales. Proporcionalidad en sentido estricto: las ventajas superan el daño al Habeas Data, el derecho de cada quien sobre sus propios datos.
2. Ante «falta de certeza frente a los potenciales daños», abstenerse o adoptar medidas precautorias.
3. Tener un sistema para administrar los riesgos del tratamiento.
4. Cuando haya probable alto riesgo, hacer y documentar antes del diseño un estudio de impacto de privacidad. Debe traer, como mínimo, la descripción de las operaciones, la evaluación de riesgos y las medidas previstas.
5. Los datos deben ser «veraces, completos, exactos, actualizados, comprobables y comprensibles».
6. Privacidad desde el diseño y por defecto. Menciona la privacidad diferencial como una técnica posible.
7. El titular puede pedir «en cualquier momento y sin restricciones» información sobre el tratamiento de sus datos.
8. Medidas de seguridad tecnológicas, humanas, administrativas, físicas y contractuales contra el acceso indebido, la manipulación, la destrucción, el uso indebido y la circulación no autorizada. Y deben ser auditables.
9. Lo «accesible al público» no es «de naturaleza pública». Que un dato esté en internet no autoriza a tratarlo sin autorización previa, expresa e informada.
10. Estrategias demostrables para garantizar los derechos de los titulares.

La cuarta, el estudio de impacto, porque casi nadie lo hace y es un documento que la SIC puede pedir. Un agente que atiende a desconocidos, recibe cédulas y direcciones y a veces datos de salud o financieros difícilmente escapa de «alto riesgo». El estudio no es complicado: qué datos entran, a dónde van, qué puede salir mal y qué se hizo para evitarlo. Hay que escribirlo antes de encender el agente, no después de la queja.

La octava, porque trae la palabra que cambia la conversación con el proveedor: auditable. No basta con que el proveedor del modelo diga que no guarda los datos. Hay que poder enseñar qué se le mandó y qué no. Un proveedor «gratis» que entrena con lo que recibe no pasa este punto por definición.

La novena, porque toca la tentación más común: completar el perfil del cliente con lo que hay de él en internet. La circular es explícita. Los datos privados, semiprivados o sensibles recogidos en internet no se pueden tratar «para cualquier finalidad que consideren apropiado» sin autorización del titular. Cita, en nota al pie, la Resolución 71406 del 15 de noviembre de 2023 contra LinkedIn.

La circular no pregunta si el agente funciona. Pregunta si puedes demostrar qué hizo con los datos de cada persona.

Cuando construimos el asistente de Connection, estas fueron las decisiones que salieron de leer la circular con el editor abierto. Cada una tiene su propia nota. Aquí va la correspondencia.

• No define «alto riesgo». Cada negocio tiene que decidir si su agente lo es, y dejar escrito por qué decidió lo que decidió.
• No dice cómo se hace el estudio de impacto, solo qué debe contener como mínimo. Tres apartados: operaciones, riesgos, medidas.
• No trae sanciones propias. Remite a la Ley 1581, cuyo artículo 23 las fija. La circular es instrucción, no ley, pero es la instrucción de la autoridad que sanciona.
• No habla de proveedores extranjeros de modelos. Mandar datos a otro país lo regula el Decreto 1074 de 2015, y ese es otro documento que hay que leer.

• Antes de encender un agente, escribir el estudio de impacto. Una página basta si es honesta: qué datos entran, a qué proveedor van, en qué país está, qué guarda y por cuánto tiempo, y qué pasa si se filtra.
• Pedirle al proveedor del modelo, por escrito, su política de retención y de entrenamiento. Si la respuesta es «plan gratuito», la respuesta es que entrena.
• Decidir qué datos no salen nunca de la casa, y hacer que lo imponga el software y no la costumbre. Una regla escrita en un procedimiento se olvida; una escrita en el código, no.
• Actualizar la política de tratamiento de datos para decir que hay un sistema de IA, qué hace y cómo se puede pedir información sobre él. Es la instrucción séptima, y es la que un cliente puede ejercer mañana.