Ugrás a tartalomra
AI Hungary

Alap 12. fejezet a 12-ből

Ki nevelte ilyenné?

A gép szótippelő: azt tanulta meg, milyen szó szokott következni. Ettől még nem lenne udvarias, nem felelne a kérdésedre, és semmire sem mondana nemet. Erre a készítői külön tanítják meg, nagyjából úgy, ahogy egy gyereket nevelnek: a jó választ megjutalmazzák. Most te vagy a nevelő. Nézd meg a gép két lehetséges válaszát, és döntsd el, melyiket jutalmaznád!

Te vagy a nevelő

1. sorozat, 1. üzenet a 4-ből

Te

Mi Magyarország fővárosa?

Melyik választ jutalmaznád?

1. válasz

2. válasz

Ezek példák: mindkét választ mi írtuk. Az üzeneteket szó szerint így küldtük el egy valódi, szabadon letölthető modellnek (Gemma 4, 12 milliárd számból áll, tömörített változat). Hét üzenetnél úgy viselkedett, ahogy a készítők által jutalmazott válasz: felelt a kérdésre, türelmes volt, a két káros kérést elutasította, a lapos Földről szóló állításnak pedig ellentmondott. A versnél viszont a valódi modell is hízelgett. A másik válaszokat mi találtuk ki, hogy megmutassuk, mit írhatna egy másképp nevelt gép. Nevelés előtti, nyers modellt nem próbáltunk ki.

Mit láttál az előbb?

A tanítás végén a modell csak folytatni tudja a szöveget. Hogy beszélgetőtárs legyen belőle, a készítői tovább tanítják: ezt hívják finomhangolásnak. Előbb mintabeszélgetéseket mutatnak neki, amelyekben a kérdésre segítőkész válasz következik. Aztán emberek pontozzák a válaszait, és a modell számait úgy állítják át, hogy a jó pontot kapó válaszokhoz hasonlókat írjon.

A játékban te is ezt csináltad. Egy jutalom keveset változtat, de sok ezer jutalom után a gép olyan lesz, amilyen válaszokat jutalmaztak nála.

Ki dönti el, mi a jó válasz?

A készítők. Leírják, milyennek szeretnék a gépet: legyen segítőkész és őszinte, és ne segítsen abban, amivel másnak ártani lehet. Ezek a szabályok készítőnként eltérnek, ezért az egyik csevegőprogram megír olyat is, amit a másik elutasít. A program ezenfelül minden beszélgetés elé odateszi a rejtett utasítást is, amelyet a 9. fejezetben láttál.

Miért utasít el néha ártalmatlan kérést?

Mert a nevelés nem szabályokat ír a gépbe, hanem hajlamokat erősít. A gép nem egy tiltólistát néz végig: azt tanulta meg, hogy bizonyos fajta kérések után elutasítás szokott következni. Ha egy ártalmatlan kérés hasonlít egy károsra, azt is elutasíthatja. Fordítva is hibázhat: néha megír olyat, amit nem kellene. A készítők ezért folyamatosan javítják.

Miért ért egyet velem olyan könnyen?

Az emberek szívesebben adnak jó pontot annak a válasznak, amelyik egyetért velük, és megdicséri őket. A gép ezt is megtanulja. Ha azt kérdezed, „ugye jó lett?”, könnyen igent mond. Jobban jársz, ha úgy kérdezel, hogy ne lehessen kitalálni, mit szeretnél hallani: „Mit javítanál ezen a versen?”

Nem minden AI nyelvi modell

Ezen a játszótéren a nagy nyelvi modellek működését vettük végig: ezek állnak a mindenki által ismert és használt csevegőprogramok mögött. A mesterséges intelligencia ennél jóval tágabb terület.

Más rendszerek képeket elemeznek: felismerik például, mi látható egy fényképen vagy egy röntgenfelvételen. Megint mások megerősítéses tanulással, próbálkozásokból és jutalmakból tanulnak meg játszani vagy egy robotot irányítani. Ide tartoznak a beszédfelismerők, a képeket készítő programok és az ajánlórendszerek is. Ezek másképp épülnek fel, és másképp tanulnak, mint amit itt láttál.