HackTricksAI en Ciberseguridad
Reading time: 3 minutes
tip
Aprende y practica Hacking en AWS:
HackTricks Training AWS Red Team Expert (ARTE)
Aprende y practica Hacking en GCP: 
HackTricks Training GCP Red Team Expert (GRTE)
Aprende y practica Hacking en Azure: 
HackTricks Training Azure Red Team Expert (AzRTE)
Apoya a HackTricks
- Revisa los planes de suscripci贸n!
- 脷nete al 馃挰 grupo de Discord o al grupo de telegram o s铆guenos en Twitter 馃惁 @hacktricks_live.
- Comparte trucos de hacking enviando PRs a los HackTricks y HackTricks Cloud repositorios de github.
Principales Algoritmos de Aprendizaje Autom谩tico
El mejor punto de partida para aprender sobre IA es entender c贸mo funcionan los principales algoritmos de aprendizaje autom谩tico. Esto te ayudar谩 a entender c贸mo funciona la IA, c贸mo usarla y c贸mo atacarla:
AI Supervised Learning Algorithms
AI Unsupervised Learning Algorithms
AI Reinforcement Learning Algorithms
Arquitectura de LLMs
En la siguiente p谩gina encontrar谩s los conceptos b谩sicos de cada componente para construir un LLM b谩sico utilizando transformadores:
Seguridad de IA
Marcos de Riesgo de IA
En este momento, los 2 principales marcos para evaluar los riesgos de los sistemas de IA son el OWASP ML Top 10 y el Google SAIF:
Seguridad de Prompts de IA
Los LLMs han hecho que el uso de IA explote en los 煤ltimos a帽os, pero no son perfectos y pueden ser enga帽ados por prompts adversariales. Este es un tema muy importante para entender c贸mo usar la IA de manera segura y c贸mo atacarla:
RCE de Modelos de IA
Es muy com煤n que desarrolladores y empresas ejecuten modelos descargados de Internet, sin embargo, solo cargar un modelo podr铆a ser suficiente para ejecutar c贸digo arbitrario en el sistema. Este es un tema muy importante para entender c贸mo usar la IA de manera segura y c贸mo atacarla:
Protocolo de Contexto de Modelos de IA
MCP (Protocolo de Contexto de Modelos) es un protocolo que permite a los clientes de agentes de IA conectarse con herramientas externas y fuentes de datos de manera plug-and-play. Esto permite flujos de trabajo e interacciones complejas entre modelos de IA y sistemas externos:
tip
Aprende y practica Hacking en AWS:HackTricks Training AWS Red Team Expert (ARTE)
Aprende y practica Hacking en GCP: HackTricks Training GCP Red Team Expert (GRTE)
Aprende y practica Hacking en Azure: HackTricks Training Azure Red Team Expert (AzRTE)
Apoya a HackTricks
- Revisa los planes de suscripci贸n!
- 脷nete al 馃挰 grupo de Discord o al grupo de telegram o s铆guenos en Twitter 馃惁 @hacktricks_live.
- Comparte trucos de hacking enviando PRs a los HackTricks y HackTricks Cloud repositorios de github.