AI en Ciberseguridad

Tip

Aprende y practica Hacking en AWS:HackTricks Training AWS Red Team Expert (ARTE)
Aprende y practica Hacking en GCP: HackTricks Training GCP Red Team Expert (GRTE) Aprende y practica Hacking en Azure: HackTricks Training Azure Red Team Expert (AzRTE)

Apoya a HackTricks

Principales Algoritmos de Aprendizaje Automático

El mejor punto de partida para aprender sobre IA es entender cómo funcionan los principales algoritmos de aprendizaje automático. Esto te ayudará a entender cómo funciona la IA, cómo usarla y cómo atacarla:

AI Supervised Learning Algorithms

AI Unsupervised Learning Algorithms

AI Reinforcement Learning Algorithms

AI Security Methodology

Arquitectura de LLMs

En la siguiente página encontrarás los conceptos básicos de cada componente para construir un LLM básico utilizando transformadores:

LLM Training

Seguridad de IA

Marcos de Riesgo de IA

En este momento, los 2 principales marcos para evaluar los riesgos de los sistemas de IA son el OWASP ML Top 10 y el Google SAIF:

AI Risk Frameworks

Seguridad de Prompts de IA

Los LLMs han hecho que el uso de IA explote en los últimos años, pero no son perfectos y pueden ser engañados por prompts adversariales. Este es un tema muy importante para entender cómo usar la IA de manera segura y cómo atacarla:

AI Prompts

RCE de Modelos de IA

Es muy común que desarrolladores y empresas ejecuten modelos descargados de Internet, sin embargo, solo cargar un modelo podría ser suficiente para ejecutar código arbitrario en el sistema. Este es un tema muy importante para entender cómo usar la IA de manera segura y cómo atacarla:

AI Models RCE

Protocolo de Contexto de Modelos de IA

MCP (Protocolo de Contexto de Modelos) es un protocolo que permite a los clientes de agentes de IA conectarse con herramientas externas y fuentes de datos de manera plug-and-play. Esto habilita flujos de trabajo complejos e interacciones entre modelos de IA y sistemas externos:

AI MCP Security

Fuzzing Asistido por IA y Descubrimiento Automatizado de Vulnerabilidades

Ai Assisted Fuzzing And Vulnerability Discovery

Tip

Aprende y practica Hacking en AWS:HackTricks Training AWS Red Team Expert (ARTE)
Aprende y practica Hacking en GCP: HackTricks Training GCP Red Team Expert (GRTE) Aprende y practica Hacking en Azure: HackTricks Training Azure Red Team Expert (AzRTE)

Apoya a HackTricks