AI w Cyberbezpieczeństwie

Reading time: 3 minutes

tip

Ucz się i ćwicz Hacking AWS:HackTricks Training AWS Red Team Expert (ARTE)
Ucz się i ćwicz Hacking GCP: HackTricks Training GCP Red Team Expert (GRTE) Ucz się i ćwicz Hacking Azure: HackTricks Training Azure Red Team Expert (AzRTE)

Wsparcie dla HackTricks

Główne Algorytmy Uczenia Maszynowego

Najlepszym punktem wyjścia do nauki o AI jest zrozumienie, jak działają główne algorytmy uczenia maszynowego. Pomoże to zrozumieć, jak działa AI, jak go używać i jak je atakować:

AI Supervised Learning Algorithms

AI Unsupervised Learning Algorithms

AI Reinforcement Learning Algorithms

AI Security Methodology

Architektura LLM

Na następnej stronie znajdziesz podstawy każdego komponentu do zbudowania podstawowego LLM przy użyciu transformerów:

LLM Training

Bezpieczeństwo AI

Ramy Ryzyka AI

W tej chwili główne 2 ramy do oceny ryzyk systemów AI to OWASP ML Top 10 i Google SAIF:

AI Risk Frameworks

Bezpieczeństwo Podpowiedzi AI

LLM sprawiły, że użycie AI eksplodowało w ostatnich latach, ale nie są one doskonałe i mogą być oszukiwane przez wrogie podpowiedzi. To bardzo ważny temat, aby zrozumieć, jak używać AI bezpiecznie i jak je atakować:

AI Prompts

RCE Modeli AI

Bardzo powszechne jest, że deweloperzy i firmy uruchamiają modele pobrane z Internetu, jednak samo załadowanie modelu może być wystarczające do wykonania dowolnego kodu w systemie. To bardzo ważny temat, aby zrozumieć, jak używać AI bezpiecznie i jak je atakować:

AI Models RCE

Protokół Kontekstowy Modelu AI

MCP (Model Context Protocol) to protokół, który pozwala klientom agentów AI łączyć się z zewnętrznymi narzędziami i źródłami danych w sposób plug-and-play. Umożliwia to złożone przepływy pracy i interakcje między modelami AI a systemami zewnętrznymi:

AI MCP Security

tip

Ucz się i ćwicz Hacking AWS:HackTricks Training AWS Red Team Expert (ARTE)
Ucz się i ćwicz Hacking GCP: HackTricks Training GCP Red Team Expert (GRTE) Ucz się i ćwicz Hacking Azure: HackTricks Training Azure Red Team Expert (AzRTE)

Wsparcie dla HackTricks