Alap 1. fejezet a 12-ből
Egy nagyon jó szótippelő
Amikor egy csevegő AI válaszol neked, valójában egy játékot játszik: megnézi az eddigi szöveget, és megtippeli, melyik szó jön utána. Aztán újra, és újra. Mielőtt megnéznénk, hogyan csinálja, próbáld ki te is.
Melyik szó következik?
1. mondat az 5-ből
Magyarország fővárosa (hiányzó szó)
Ekkora esélyt ad a modell az egyes folytatásoknak:
-
Budapest 94%
-
a 2,5%
-
és 1%
-
Debrecen 0,4%
-
Szeged 0,2%
-
Pécs 1% alatt
-
minden más szó együtt 1,9%
Ha a folytatás egyértelmű, a modell szinte biztos a dolgában. Ezt a tudást a tanulás során rengeteg szövegből szedte össze.
2. mondat az 5-ből
Reggel felkelek, és iszom egy csésze (hiányzó szó)
Ekkora esélyt ad a modell az egyes folytatásoknak:
-
kávét 58%
-
teát 27%
-
forró 6%
-
kakaót 4%
-
vizet 2%
-
minden más szó együtt 3%
Több jó válasz is van. A modell nem egyetlen szót „tud”, hanem mindegyik lehetőségnek esélyt ad.
3. mondat az 5-ből
A macska felugrott az (hiányzó szó)
Ekkora esélyt ad a modell az egyes folytatásoknak:
-
asztalra 34%
-
ágyra 22%
-
ablakpárkányra 14%
-
ölembe 9%
-
autóra 5%
-
minden más szó együtt 16%
Figyeld meg: csak olyan szavak jönnek szóba, amelyek az „az” után nyelvtanilag is helyesek. A modell a nyelvtant sem szabályokból tanulta, hanem példákból.
4. mondat az 5-ből
Tegnap este a barátaimmal elmentünk egy (hiányzó szó)
Ekkora esélyt ad a modell az egyes folytatásoknak:
-
koncertre 21%
-
étterembe 18%
-
bulira 15%
-
kocsmába 12%
-
sétára 8%
-
minden más szó együtt 26%
Itt már sok jó folytatás van, és egyik sem emelkedik ki. Bármelyiket választod, értelmes mondat lesz belőle.
5. mondat az 5-ből
Az élet értelme (hiányzó szó)
Ekkora esélyt ad a modell az egyes folytatásoknak:
-
az 14%
-
a 11%
-
nem 9%
-
szerintem 7%
-
42 5%
-
minden más szó együtt 54%
Nincs egyértelmű folytatás, az esélyek szétterülnek. Ilyenkor a véletlen dönt arról, merre megy tovább a szöveg. Erről szól az 5. fejezet.
A százalékok szemléltető értékek, nem egy valódi modell kimenetei.
Mit láttál az előbb?
A modell nem egyetlen szót „tud”. Minden lehetséges folytatásnak ad egy esélyt, és ezekből választ. Ha a mondat egyértelmű, egy szó messze kiemelkedik. Ha sokféleképp folytatható, az esélyek szétterülnek.
Ebből két fontos dolog következik. Az egyik: a modell nem adatbázisból keresi ki a választ, hanem valószínű szöveget állít elő. A másik: a „valószínű” és az „igaz” nem ugyanaz. A legtöbbször egybeesik, de nem mindig.