Responsabilidades principales
Identificar y evaluar amenazas específicas de sistemas de IA, como prompt injection, data leakage, model theft, data poisoning y ataques adversariales.
Diseñar controles de seguridad para aplicaciones basadas en LLMs, APIs, pipelines de datos y sistemas de model serving.
Realizar threat modeling, pruebas de vulnerabilidad y AI red teaming para detectar riesgos antes de su explotación.
Implementar mecanismos de monitoreo y participar en la respuesta ante incidentes relacionados con sistemas de IA.
Colaborar con equipos de seguridad, ingeniería, datos y gobernanza para establecer políticas, controles y guardrails.
Incorporar prácticas de seguridad durante todo el ciclo de vida de desarrollo y despliegue de soluciones de IA.