Nyelvi modellek
Kontextusablak
A kontextusablak az a maximális szövegmennyiség, amit a modell egyszerre figyelembe tud venni a kérdés és a válasz során.
Angolul: Context Window
Mit jelent: Kontextusablak?
Ha a bemenet hosszabb a kontextusablaknál, a rendszer kénytelen darabolni vagy tömöríteni. Ilyenkor jön képbe a RAG és a chunkolás.
A nagyobb ablak nem mindig jobb: a hosszú kontextus lassabb, drágább, és a modell figyelme a közepén jellemzően gyengébb.
Miért számít ez a cégednek?
Több száz oldalas szerződésállományt nem a kontextusablak méretével oldasz meg, hanem jól felépített keresési réteggel.
Gyakori kérdések
Mit jelent a(z) Kontextusablak?
A kontextusablak az a maximális szövegmennyiség, amit a modell egyszerre figyelembe tud venni a kérdés és a válasz során.
Miért fontos a(z) Kontextusablak egy középvállalatnak?
Több száz oldalas szerződésállományt nem a kontextusablak méretével oldasz meg, hanem jól felépített keresési réteggel.