Glosario de tipos de incidentes de seguridad de la IA
Definiciones en lenguaje claro de los nueve tipos usados para clasificar cada expediente de este sitio, con un enlace a los casos de cada tipo.
Inyección de prompts
La inyección de prompts es un ataque en el que un texto que lee un modelo de IA, como una página web, un documento o un correo, contiene instrucciones que el modelo sigue como si vinieran de su usuario u operador. Puede hacer que un asistente filtre datos, realice acciones no deseadas o ignore sus reglas de seguridad. Es la clase de ataque más común contra sistemas basados en grandes modelos de lenguaje.
Fraude con deepfakes
El fraude con deepfakes usa voz, vídeo o imágenes generadas por IA para hacerse pasar por una persona real, normalmente un directivo, un familiar o una figura pública, con el fin de engañar a una víctima. Los casos típicos son videollamadas falsas que autorizan pagos y voces clonadas usadas en llamadas fraudulentas. Las pérdidas suelen ser reportadas por la policía o los tribunales más que por la víctima.
Malware asistido por IA
El malware asistido por IA es software malicioso escrito, adaptado u operado con ayuda de modelos de IA. Incluye código generado por asistentes, malware que consulta un modelo en tiempo de ejecución para decidir su siguiente paso y kits criminales construidos sobre modelos de lenguaje. La IA reduce la habilidad y el tiempo necesarios para producir código de ataque funcional.
Cadena de suministro de IA
Un incidente de cadena de suministro de IA compromete un componente del que dependen los sistemas de IA: un archivo de modelo, un conjunto de datos, una herramienta de desarrollo, una extensión, un registro de paquetes o una plataforma de alojamiento. Un solo componente malicioso o vulnerable puede alcanzar a todos los proyectos que lo instalan. Los casos incluyen paquetes envenenados, modelos con puertas traseras y asistentes de programación comprometidos.
Filtración de modelos y datos
Una filtración de modelos y datos expone información que guarda un sistema de IA: conversaciones de usuarios, claves de API, datos de entrenamiento, pesos del modelo o configuración interna. Las causas van desde bases de datos y almacenamiento mal configurados hasta fallos en la aplicación que rodea al modelo. El daño se mide por lo que quedó expuesto y durante cuánto tiempo.
LLMjacking
El LLMjacking es el robo de acceso a modelos de IA de pago, normalmente mediante credenciales de nube o claves de API robadas. Los atacantes ejecutan sus propias cargas de trabajo o revenden el acceso mientras la víctima recibe la factura. Es el equivalente en IA del cryptojacking.
Secuestro de agentes
El secuestro de agentes toma el control de un agente de IA, es decir, un modelo dotado de herramientas como un navegador, una terminal, correo o sistemas de pago, y lo hace actuar contra su propietario. El punto de entrada suele ser una inyección de prompts o una herramienta comprometida, y los permisos del agente pasan a ser los del atacante. Los daños incluyen archivos borrados, datos filtrados y acciones no autorizadas ejecutadas automáticamente.
Phishing con IA
El phishing con IA usa modelos de lenguaje para redactar, traducir y personalizar mensajes fraudulentos a gran escala, o para construir sitios y chatbots falsos que recolectan credenciales. El texto es fluido y a medida, por lo que desaparecen las señales de alerta tradicionales como las faltas de ortografía. Los casos incluyen campañas contra funcionarios, empresas y consumidores.
Operaciones estatales con IA
Las operaciones estatales con IA son el uso de IA por grupos vinculados a gobiernos para espionaje, campañas de influencia o ciberataques. Los reportes proceden sobre todo de proveedores de IA que detectan y desactivan las cuentas implicadas, y de agencias gubernamentales. La atribución se registra tal como la expresó la fuente, con su nivel de confianza.