Szabályozás és biztonság
Prompt injection
A prompt injection olyan támadás, amelyben a feldolgozott tartalomba rejtett utasítás téríti el az AI-t az eredeti feladatától.
Angolul: Prompt Injection
Mit jelent: Prompt injection?
Példa: egy beérkező e-mail vagy PDF olyan szöveget tartalmaz, ami arra utasítja az asszisztenst, hogy továbbítsa a belső adatokat.
Védekezés: a bejövő tartalmat mindig adatként kezeld, ne utasításként; eszközhívásnál külön jogosultság-ellenőrzés; érzékeny művelet előtt emberi jóváhagyás.
Miért számít ez a cégednek?
Ha az AI-d külső tartalmat olvas, ez a legrelevánsabb biztonsági kockázatod. Penetrációs teszt tárgya legyen.
Gyakori kérdések
Mit jelent a(z) Prompt injection?
A prompt injection olyan támadás, amelyben a feldolgozott tartalomba rejtett utasítás téríti el az AI-t az eredeti feladatától.
Miért fontos a(z) Prompt injection egy középvállalatnak?
Ha az AI-d külső tartalmat olvas, ez a legrelevánsabb biztonsági kockázatod. Penetrációs teszt tárgya legyen.