Mit csinál valójában egy nyelvi modell?

A mesterséges intelligencia nem „tudja”, amit ír, hanem valószínűségeket számol. Egy nagy nyelvi modell a tréning során megtanulja, hogy egy adott szövegkörnyezetben milyen szavak, kifejezések és mondatszerkezetek következnek nagy eséllyel. Ezután, amikor kérdést kap, ezeket a mintákat hívja elő: szöveget generál, de nem gondolatot. Vagyis nem válaszol, hanem választ szimulál.

Itt jön be a lényeg: az emberi kommunikáció mögött szándék, kontextus, tapasztalat és érzelem van. Amikor egy ember véleményt mond, azt egyéni háttér, érzések, célok formálják. Az AI viszont nem „gondolja”, amit ír csak olyan formában adja elő, mintha gondolná.

Ez a „mintha” az, ami megtévesztő lehet. Az emberi agy ugyanis hajlamos minden nyelvileg koherens üzenetet úgy értelmezni, mintha egy gondolkodó elme küldte volna. Ez evolúciósan is érthető: így ismerünk fel másokat, így értjük meg az embereket, így működik az empátia. Csakhogy a mesterséges intelligencia esetében ez illúzió.

Miért érezzük mégis úgy, hogy „van véleménye”?

Mert:

• emberi nyelven fogalmaz,
• érvel,
• árnyal,
• és néha még „meglepő” gondolatokat is mond.

De ezeket nem önálló elhatározásból teszi. Nincs belső álláspontja, csak hatalmas mennyiségű szöveg alapján modellezi, hogy mások mit mondtak hasonló helyzetben. Olyan ez, mintha egy hatalmas társalgási tükröt tartana elénk.

Miért fontos ezt megérteni? Mert az AI-t egyre gyakrabban használjuk úgy, mintha tanácsot adna, álláspontot képviselne vagy értelmezne.
Ha nem tudjuk, hogy amit olvasunk, csak szöveg, de nem szándék, akkor könnyen túl sok hitelt adunk egy automatikus válasznak különösen, ha az szépen van megfogalmazva.

A gépek nem gondolkodnak, csak gondolkodást utánoznak. És ez nem baj, sőt, ez a hasznuk.
De nekünk, embereknek kell tudnunk a különbséget.