Siber Güvenlikte AI

Reading time: 3 minutes

tip

AWS Hacking'i öğrenin ve pratik yapın:HackTricks Training AWS Red Team Expert (ARTE)
GCP Hacking'i öğrenin ve pratik yapın: HackTricks Training GCP Red Team Expert (GRTE) Azure Hacking'i öğrenin ve pratik yapın: HackTricks Training Azure Red Team Expert (AzRTE)

HackTricks'i Destekleyin

Ana Makine Öğrenimi Algoritmaları

AI hakkında öğrenmeye başlamak için en iyi nokta, ana makine öğrenimi algoritmalarının nasıl çalıştığını anlamaktır. Bu, AI'nın nasıl çalıştığını, nasıl kullanılacağını ve nasıl saldırılacağını anlamanıza yardımcı olacaktır:

AI Supervised Learning Algorithms

AI Unsupervised Learning Algorithms

AI Reinforcement Learning Algorithms

AI Security Methodology

LLM'lerin Mimarisi

Aşağıdaki sayfada, transformer'lar kullanarak temel bir LLM oluşturmak için her bileşenin temellerini bulacaksınız:

LLM Training

AI Güvenliği

AI Risk Çerçeveleri

Bu anda, AI sistemlerinin risklerini değerlendirmek için ana 2 çerçeve OWASP ML Top 10 ve Google SAIF'tir:

AI Risk Frameworks

AI İstemleri Güvenliği

LLM'ler son yıllarda AI kullanımını patlatmış olsa da, mükemmel değillerdir ve düşmanca istemlerle kandırılabilirler. Bu, AI'yı güvenli bir şekilde kullanmayı ve ona nasıl saldırılacağını anlamak için çok önemli bir konudur:

AI Prompts

AI Modelleri RCE

Geliştiricilerin ve şirketlerin İnternetten indirilen modelleri çalıştırması oldukça yaygındır, ancak sadece bir modeli yüklemek, sistemde rastgele kod çalıştırmak için yeterli olabilir. Bu, AI'yı güvenli bir şekilde kullanmayı ve ona nasıl saldırılacağını anlamak için çok önemli bir konudur:

AI Models RCE

AI Modeli Bağlam Protokolü

MCP (Model Bağlam Protokolü), AI ajanı istemcilerinin harici araçlar ve veri kaynaklarıyla tak-çalıştır tarzında bağlantı kurmasına olanak tanıyan bir protokoldür. Bu, AI modelleri ile harici sistemler arasında karmaşık iş akışları ve etkileşimler sağlar:

AI MCP Security

tip

AWS Hacking'i öğrenin ve pratik yapın:HackTricks Training AWS Red Team Expert (ARTE)
GCP Hacking'i öğrenin ve pratik yapın: HackTricks Training GCP Red Team Expert (GRTE) Azure Hacking'i öğrenin ve pratik yapın: HackTricks Training Azure Red Team Expert (AzRTE)

HackTricks'i Destekleyin