A nagy nyelvi modell (angolul Large Language Model, röviden LLM) lényege, hogy hatalmas mennyiségű szöveges adaton betanított, mélytanuláson alapuló mesterségesintelligencia-rendszer, amely statisztikai összefüggések alapján megjósolja a legvalószínűbb következő szövegrészt. A Nagy nyelvi modell olyan folyamat, amelyben a modell – külső emberi adatgyűjtés helyett – részben vagy teljesen saját maga generálja a tanításához szükséges adatokat, visszajelzéseket vagy kijavítja a hibáit. A tokenizáció lényege, hogy a bemeneti szöveget szavakra vagy szórészletekre (tokenekre) bontja. • Következő szó jóslása: Nem „érti” a világot úgy, mint egy ember, hanem matematikai valószínűségek alapján kiszámolja, hogy egy adott szövegkörnyezetben mi a leglogikusabb folytatás. Transformer-architektúra: A self-attention (önfigyelem) mechanizmus segítségével a modell képes nyomon követni a mondatban egymástól távolabb eső szavak kapcsolatát is. Lassan képes lesz szövegalkotásra, fordításra, programkód írására, összegzésre és kérdések megválaszolására. Ha nem niztos akkor is magabiztos, állít valótlan vagy kitalált tényeket, mivel nincs valódi értelme a valóságról. A cél a megerősítéses tanulás saját visszajelzéssel (RLAIF / Self-Reward): A modell nem emberi értékelőkre (RLHF) támaszkodik, hanem saját magát pontozza, preferenciapárokat hoz létre, és ezek alapján optimalizálja a viselkedését. Asszociál, szintetizál és generál egyszerre.
Nincsenek megjegyzések:
Megjegyzés küldése