Szabályozás és biztonság
AI hallucináció
Az AI hallucináció az, amikor a modell tényszerűen hamis információt állít elő, miközben magabiztos és jól formázott választ ad.
Angolul: AI Hallucination
Mit jelent: AI hallucináció?
A hallucináció nem hiba a szó klasszikus értelmében: a modell a legvalószínűbb folytatást adja, akkor is, ha nincs valós forrása.
Csökkentésének bevált eszközei: RAG-alapú forráskötés, kötelező hivatkozás, kimeneti séma, alacsony hőmérséklet és emberi jóváhagyás a kockázatos lépéseknél.
Miért számít ez a cégednek?
A hallucináció a vállalati AI legnagyobb kockázata. Minden folyamatnál el kell dönteni: mi történik, ha a modell téved — és ki veszi észre.
Gyakori kérdések
Meg lehet szüntetni teljesen a hallucinációt?
Nem. Csökkenteni lehet forráskötéssel és ellenőrzési pontokkal, de a maradék kockázatot folyamatszinten kell kezelni.
Mit jelent a(z) AI hallucináció?
Az AI hallucináció az, amikor a modell tényszerűen hamis információt állít elő, miközben magabiztos és jól formázott választ ad.
Miért fontos a(z) AI hallucináció egy középvállalatnak?
A hallucináció a vállalati AI legnagyobb kockázata. Minden folyamatnál el kell dönteni: mi történik, ha a modell téved — és ki veszi észre.