AI u Kibernetičkoj Bezbednosti

Reading time: 3 minutes

tip

Učite i vežbajte AWS Hacking:HackTricks Training AWS Red Team Expert (ARTE)
Učite i vežbajte GCP Hacking: HackTricks Training GCP Red Team Expert (GRTE) Učite i vežbajte Azure Hacking: HackTricks Training Azure Red Team Expert (AzRTE)

Podržite HackTricks

Glavni Algoritmi Mašinskog Učenja

Najbolja polazna tačka za učenje o AI je razumevanje kako glavni algoritmi mašinskog učenja funkcionišu. Ovo će vam pomoći da razumete kako AI funkcioniše, kako ga koristiti i kako ga napasti:

AI Supervised Learning Algorithms

AI Unsupervised Learning Algorithms

AI Reinforcement Learning Algorithms

AI Security Methodology

Arhitektura LLM-ova

Na sledećoj stranici naći ćete osnove svakog komponente za izgradnju osnovnog LLM koristeći transformere:

LLM Training

AI Bezbednost

Okviri Rizika AI

U ovom trenutku, glavna 2 okvira za procenu rizika AI sistema su OWASP ML Top 10 i Google SAIF:

AI Risk Frameworks

Bezbednost AI Upita

LLM-ovi su u poslednjim godinama doveli do eksplozije korišćenja AI, ali nisu savršeni i mogu biti prevareni zlonamernim upitima. Ovo je veoma važna tema za razumevanje kako koristiti AI bezbedno i kako ga napasti:

AI Prompts

RCE AI Modela

Veoma je uobičajeno da programeri i kompanije pokreću modele preuzete sa Interneta, međutim, samo učitavanje modela može biti dovoljno da se izvrši proizvoljan kod na sistemu. Ovo je veoma važna tema za razumevanje kako koristiti AI bezbedno i kako ga napasti:

AI Models RCE

Protokol Konteksta AI Modela

MCP (Protokol Konteksta Modela) je protokol koji omogućava AI agent klijentima da se povežu sa spoljnim alatima i izvorima podataka na način "plug-and-play". Ovo omogućava složene radne tokove i interakcije između AI modela i spoljnih sistema:

AI MCP Security

AI-Pomoćno Fuzzing & Automatizovano Otkriće Ranljivosti

Ai Assisted Fuzzing And Vulnerability Discovery

tip

Učite i vežbajte AWS Hacking:HackTricks Training AWS Red Team Expert (ARTE)
Učite i vežbajte GCP Hacking: HackTricks Training GCP Red Team Expert (GRTE) Učite i vežbajte Azure Hacking: HackTricks Training Azure Red Team Expert (AzRTE)

Podržite HackTricks