Política de IA Responsable

Propietario: Pantera AI Inc. ("Pantera")

Esta Política de Inteligencia Artificial (IA) Responsable define los principios, la gobernanza y los controles operativos que Pantera aplica para diseñar, desarrollar, implementar y operar funcionalidades habilitadas por IA de manera segura, ética y conforme a la normativa. Esta política está destinada a alinearse con las mejores prácticas ampliamente aceptadas, incluyendo el enfoque basado en riesgos de la Ley de IA de la UE y los conceptos de gobernanza de IA alineados con ISO.

1. Propósito

El propósito de esta política es garantizar que los sistemas de IA de Pantera se desarrollen y utilicen de manera responsable, con salvaguardas apropiadas para la seguridad, privacidad, transparencia, equidad, confiabilidad y supervisión humana.

2. Alcance

Esta política se aplica a:

• Todos los empleados, contratistas y terceros de Pantera que actúan en nombre de Pantera
• Todas las funcionalidades y flujos de trabajo habilitados por IA ofrecidos por Pantera (incluyendo integraciones y automatización)
• Todos los entornos utilizados para desarrollar, probar y operar funcionalidades de IA (incluyendo servicios en la nube y de terceros)

3. Definiciones

• Sistema de IA: Software que utiliza inferencia basada en modelos (incluyendo aprendizaje automático e IA generativa) para producir resultados como contenido, recomendaciones o acciones automatizadas.
• Uso de alto riesgo: Cualquier uso que pueda impactar materialmente los derechos, la seguridad, las finanzas, los resultados legales o el acceso a servicios esenciales de los usuarios.
• Humano en el ciclo (Human-in-the-loop): Un control donde una persona calificada revisa o aprueba acciones sensibles antes de su ejecución.

4. Principios Fundamentales

4.1 Legalidad y Responsabilidad

• Pantera asigna una propiedad clara para las funcionalidades habilitadas por IA y mantiene la gobernanza sobre el diseño y la operación.
• Documentamos las decisiones clave, riesgos y controles de los sistemas de IA (incluyendo cambios y respuesta a incidentes).

4.2 Seguridad y Privacidad por Diseño

• Aplicamos controles de acceso de mínimo privilegio a los datos, prompts, registros y resultados de la IA.
• Minimizamos la recopilación de datos y limitamos la retención de datos a lo necesario para la entrega del producto y la seguridad.
• Implementamos salvaguardas para prevenir la fuga de datos confidenciales o personales a través de prompts o resultados.

4.3 Transparencia y Notificación al Usuario

• Divulgamos cuándo una interacción está asistida por IA cuando sea razonable y apropiado.
• Comunicamos las limitaciones significativas de los resultados de la IA (por ejemplo, posibles errores, alucinaciones o contexto incompleto).

4.4 Equidad y No Discriminación

• Evaluamos las funcionalidades de IA en busca de posibles sesgos e impacto discriminatorio, especialmente en casos de uso sensibles.
• Evitamos utilizar atributos protegidos o sensibles a menos que sean explícitamente requeridos, lícitos y estén protegidos con salvaguardas.

4.5 Confiabilidad, Seguridad y Calidad

• Probamos las funcionalidades de IA contra criterios de aceptación definidos antes de su lanzamiento.
• Monitoreamos el rendimiento, los modos de falla y la deriva (drift) cuando sea aplicable.
• Mantenemos rutas alternativas (fallback) para flujos de trabajo críticos (revisión manual, valores predeterminados seguros o escalamiento humano).

4.6 Supervisión Humana

• Las acciones de alto impacto deben utilizar controles de aprobación humana o de revisión humana.
• Los usuarios deben tener una vía para impugnar, corregir o solicitar la revisión de resultados en escenarios aplicables.

5. Gestión de Riesgos (Enfoque alineado con la Ley de IA de la UE)

Pantera utiliza un enfoque basado en riesgos para evaluar las funcionalidades de IA. Antes de implementar cambios materiales en la IA, evaluamos:

• El caso de uso y el posible impacto en el usuario (incluyendo daños legales, financieros, de seguridad o reputacionales)
• Los tipos de datos procesados (datos personales, datos sensibles, datos comerciales confidenciales)
• Los controles de seguridad y privacidad (acceso, retención, cifrado, registro)
• Los requisitos de supervisión humana y las rutas de escalamiento
• Los requisitos de pruebas y monitoreo

6. Manejo y Retención de Datos

• Los datos del cliente se procesan únicamente para fines comerciales legítimos y de acuerdo con los requisitos contractuales y legales.
• Evitamos almacenar prompts/resultados que contengan datos sensibles a menos que sea necesario para la seguridad, la resolución de problemas o requisitos de auditoría.
• Definimos períodos de retención para los registros y registros operativos basados en las necesidades de seguridad y cumplimiento.

7. Proveedores Externos de IA

Cuando se utilizan servicios de IA de terceros (por ejemplo, APIs de modelos), Pantera evalúa a los proveedores en cuanto a seguridad, privacidad y confiabilidad. Documentamos el riesgo del proveedor, las restricciones de uso y los términos contractuales aplicables, y configuramos los ajustes del proveedor para reducir la exposición de datos cuando sea posible.

8. Gestión de Incidentes

Los incidentes relacionados con la IA (por ejemplo, exposición de datos sensibles, resultados inseguros, acciones no autorizadas o errores sistémicos) se manejan a través del proceso de respuesta a incidentes de Pantera. Realizamos análisis de causa raíz, implementamos acciones correctivas y documentamos los resultados.

9. Capacitación y Concientización

• El personal que trabaja en funcionalidades de IA recibe orientación sobre prompting seguro, privacidad y prácticas de despliegue seguro.
• El acceso a las herramientas de IA y a la configuración de producción está restringido a roles autorizados.

10. Gobernanza y Revisión

Propietario de la política: COO (Director de Operaciones)

Aprobador: CEO (Director Ejecutivo)

Cadencia de revisión: Al menos anualmente, y cuando se produzcan cambios materiales en los sistemas de IA o en las regulaciones aplicables.

11. Contacto

Para preguntas sobre esta política, contactar a: compliance@getpantera.com