Szabályozás és biztonság
AI torzítás (bias)
Az AI torzítás az, amikor a rendszer szisztematikusan hátrányosabb kimenetet ad egyes csoportokra a tanítóadat vagy a tervezés miatt.
Angolul: AI Bias
Mit jelent: AI torzítás (bias)?
A torzítás forrása többnyire a történelmi adat: ha korábban torzított döntések születtek, a modell ezt reprodukálja.
Kezelése: reprezentatív tesztkészlet, csoportonkénti pontosságmérés, emberi felülvizsgálat a személyt érintő döntéseknél.
Miért számít ez a cégednek?
HR-, hitel- és árazási felhasználásnál a torzítás jogi és reputációs kockázat egyszerre — itt mérni kell, nem feltételezni.
Gyakori kérdések
Mit jelent a(z) AI torzítás (bias)?
Az AI torzítás az, amikor a rendszer szisztematikusan hátrányosabb kimenetet ad egyes csoportokra a tanítóadat vagy a tervezés miatt.
Miért fontos a(z) AI torzítás (bias) egy középvállalatnak?
HR-, hitel- és árazási felhasználásnál a torzítás jogi és reputációs kockázat egyszerre — itt mérni kell, nem feltételezni.