Mi történik ilyenkor valójában?

Amikor egy nyelvi modell válaszol, nem „gondolkodik”, nem ellenőriz tényeket, és főleg: nincs szándéka. Nem akar hazudni, sem igazat mondani, egyszerűen valószínűséget számol.

A ChatGPT például a következőhöz hasonló módon működik:

„A jelen szöveg alapján, a következő szó legnagyobb eséllyel ez lesz: …”

Így épít fel mondatokat, bekezdéseket, cikkeket. A háttérben egy statisztikai minta alapján „tippel” arra, mi következhet logikusan egy adott szövegrészlet után. És ez a „tippelés” nagyon sokszor lenyűgözően pontos, de néha teljesen hibás.

Ezt hívjuk „hallucinációnak” az AI világában.

Mit jelent az, hogy „hallucinál” a mesterséges intelligencia?

Nem pszichedelikus látomásokról van szó, hanem arról, hogy a rendszer valódinak tűnő, de valójában hamis információt generál. Például:

• Kitalált könyvcímeket ad.
• Létező embereknek hamis idézeteket tulajdonít.
• Nem létező tudományos cikkeket idéz forrásként.

És ezt gyakran rendkívül magabiztos hangnemben teszi, ami megtévesztő lehet.

Az emberi hazugság szándékos megtévesztés. A mesterséges intelligenciánál azonban nincs szándék. Nincs tudata, nincs célja, és nincs erkölcsi érzéke. Nem tudja, hogy amit mond, igaz vagy hamis és nem is érdekli.

Ha a modell „hazudik”, az nem hazugság, hanem inkább:

• rosszul becsült statisztika,
• pontatlan adatbázis,
• vagy egyszerűen csak a nyelvi minták logikája szerint „valószínű” folytatás.

De miért hisszük mégis el, amit mond? Mert az AI emberi nyelven, emberi stílusban beszél. Használja azokat a szófordulatokat, hanglejtést utánzó ritmust, meggyőző szerkezeteket, amik megbízhatónak hangzanak. Ráadásul (statisztikai alapon) nagyon sokszor helyesen is mondja azt, amit mond.