HackTricksAI στην Κυβερνοασφάλεια
Reading time: 3 minutes
tip
Μάθετε & εξασκηθείτε στο AWS Hacking:
HackTricks Training AWS Red Team Expert (ARTE)
Μάθετε & εξασκηθείτε στο GCP Hacking: 
HackTricks Training GCP Red Team Expert (GRTE)
Μάθετε & εξασκηθείτε στο Azure Hacking: 
HackTricks Training Azure Red Team Expert (AzRTE)
Υποστηρίξτε το HackTricks
- Ελέγξτε τα σχέδια συνδρομής!
- Εγγραφείτε στην 💬 ομάδα Discord ή στην ομάδα telegram ή ακολουθήστε μας στο Twitter 🐦 @hacktricks_live.
- Μοιραστείτε κόλπα hacking υποβάλλοντας PRs στα HackTricks και HackTricks Cloud github repos.
Κύριοι Αλγόριθμοι Μηχανικής Μάθησης
Το καλύτερο σημείο εκκίνησης για να μάθετε για την AI είναι να κατανοήσετε πώς λειτουργούν οι κύριοι αλγόριθμοι μηχανικής μάθησης. Αυτό θα σας βοηθήσει να κατανοήσετε πώς λειτουργεί η AI, πώς να τη χρησιμοποιήσετε και πώς να την επιτεθείτε:
AI Supervised Learning Algorithms
AI Unsupervised Learning Algorithms
AI Reinforcement Learning Algorithms
Αρχιτεκτονική LLMs
Στην επόμενη σελίδα θα βρείτε τα βασικά κάθε στοιχείου για να κατασκευάσετε ένα βασικό LLM χρησιμοποιώντας transformers:
Ασφάλεια AI
Πλαίσια Κινδύνου AI
Αυτή τη στιγμή, τα κύρια 2 πλαίσια για την αξιολόγηση των κινδύνων των συστημάτων AI είναι το OWASP ML Top 10 και το Google SAIF:
Ασφάλεια AI Prompts
Τα LLMs έχουν εκτοξεύσει τη χρήση της AI τα τελευταία χρόνια, αλλά δεν είναι τέλεια και μπορούν να παραπλανηθούν από εχθρικά prompts. Αυτό είναι ένα πολύ σημαντικό θέμα για να κατανοήσετε πώς να χρησιμοποιείτε την AI με ασφάλεια και πώς να την επιτεθείτε:
RCE Μοντέλων AI
Είναι πολύ συνηθισμένο για προγραμματιστές και εταιρείες να εκτελούν μοντέλα που έχουν κατεβάσει από το Διαδίκτυο, ωστόσο, απλώς η φόρτωση ενός μοντέλου μπορεί να είναι αρκετή για να εκτελέσει αυθαίρετο κώδικα στο σύστημα. Αυτό είναι ένα πολύ σημαντικό θέμα για να κατανοήσετε πώς να χρησιμοποιείτε την AI με ασφάλεια και πώς να την επιτεθείτε:
Πρωτόκολλο Στοιχείου Πλαισίου Μοντέλου AI
MCP (Πρωτόκολλο Στοιχείου Πλαισίου Μοντέλου) είναι ένα πρωτόκολλο που επιτρέπει στους πελάτες AI agent να συνδέονται με εξωτερικά εργαλεία και πηγές δεδομένων με τρόπο plug-and-play. Αυτό επιτρέπει πολύπλοκες ροές εργασίας και αλληλεπιδράσεις μεταξύ μοντέλων AI και εξωτερικών συστημάτων:
tip
Μάθετε & εξασκηθείτε στο AWS Hacking:HackTricks Training AWS Red Team Expert (ARTE)
Μάθετε & εξασκηθείτε στο GCP Hacking: HackTricks Training GCP Red Team Expert (GRTE)
Μάθετε & εξασκηθείτε στο Azure Hacking: HackTricks Training Azure Red Team Expert (AzRTE)
Υποστηρίξτε το HackTricks
- Ελέγξτε τα σχέδια συνδρομής!
- Εγγραφείτε στην 💬 ομάδα Discord ή στην ομάδα telegram ή ακολουθήστε μας στο Twitter 🐦 @hacktricks_live.
- Μοιραστείτε κόλπα hacking υποβάλλοντας PRs στα HackTricks και HackTricks Cloud github repos.