„Přemýšlení“ v mozku AI

Máme opět neděli a to je čas odpočinout si od politiky. Dnes tedy dávám třetí část seriálu o tom, jak vlastně AI pracuje.

Úvodem vysvětlím, že nejsem žádný expert na AI a k tématu jsem se dostal díky své zvědavosti. Jako IT pracovníka mě princip fungování AI začal zajímat, když jsem zjistil, že AI může být nainstalována na lokálním PC a může pracovat bez připojení k internetu. K dovršení zvědavosti pomohl fakt, že ta lokální instalace „celé AI“ zabírá něco málo přes 20GB dat (pro AI model 32b), což je objem dat pro cca 10 hodinových filmů v HD kvalitě … a data této velikosti prostě nemohou obsahovat „všechnu moudrost světa“ ve formě nějaké databáze, lexikonu apod. Takže moje základní otázka zněla – jak to vlastně celé funguje? … a napadlo mě zeptat se na místě nejpovolanějším, tedy přímo AI.

Všechny texty, resp. přirovnání a zobecnění jsou z části dílem AI a z části dílem mým. Každopádně, před zveřejněním měla AI poslední slovo, jakožto korektor. Ostatně, stejně mohl postupovat každý 🙂 .

Opakování je matka moudrosti …

V minulých článcích jsem uvedl, že AI modely mají v označení „1b“, „7b“, 14b“, „32b“, „64b“ … atd., kde písmeno „b“ je od anglického „bilion“ – tedy česky miliarda a označení v podstatě uvádí, s kolika parametry (v miliardách) dotyčný model pracuje – jen připomenu, že ekvivalentní označení pro lidský mozek se odhaduje mezi „100 000b“ – „1 000 000b“. Dále jsem uvedl, že model AI 32b je pro lokální instalaci v podstatě soubor dat o velikosti cca 20GB – pro srovnání opakuji že je to velikost cca 10 hodinových filmů v HD kvalitě, což vylučuje formát „všech znalostí lidstva“ ve stylu databáze, encyklopedie apod. Pozn. – „Full“ (nekvatizovaný) AI model 32b má cca 64GB, pro lokální instalaci se ale používá „kvantizovaný“ model, který získáme v podstatě zaokrouhlením číselných hodnot.

Dále jsem uvedl, že „mozek AI“ nepracuje se slovy, ale tokeny a jednu tabulku přece jenom obsahuje – je to základní tabulka tokenů, která má nejčastěji okolo 250.000 řádků a 4.096 sloupců Na každém řádku tabulky je tedy 1 token, který má 4.096 parametrů – v každém sloupci jeden. Vstupní dotaz je napřed „rozsekán“ na tokeny (tokenizace), pro které jsou v dalším kroku (embedding matici) vybrány parametry –> každý token z dotazu je tak pomocí embedding matice převeden na soustavu čísel (vektorů).

Nyní nastal čas zopakovat mé přesvědčení, že AI „nepřemýšlí“, protože se jedná o počítačový program a o počítači je všeobecně známo, že umí v principu jen počítat ve dvojkové soustavě. To, že pokročilý matematický výpočet může budit zdání „přemýšlení“ je věc druhá.

Vyšší dívčí

Vstupní dotaz máme tedy převeden na tokeny a ke každému z nich je přiřazeno nejčastěji 4.096 parametrů ze základní tabulky tokenů. Máme tedy skupinu čísel (vektorů), která postupuje do třetí, hlavní výpočetní části „mozku AI“ (Transformeru), kde dochází k počítání nejpravděpodobnějšího (můžeme taky říct“nejsprávnějšího“) následujícího tokenu. Tato třetí část obsahuje počet parametrů, který je v názvu modelu – model AI 32b má tedy v této hlavní „výpočetní“ části 32 miliard parametrů. Pomocí těchto parametrů se (v několika vlnách) zpracuje soubor čísel (vektorů), který jsme získali extrahováním ze základní tabulky tokenů (embedding matice) pro tokeny ze vstupního dotazu.

Přiznám se, že první dva díly jsem si celkem dovedl představit, jak to asi může fungovat, ale u tohoto třetího mám jen mlhavou rámcovou představu o způsobu výpočtu … a asi nebudu jediný 🙂 , protože se bavíme o nepředstavitelných 32 miliardách parametrů – viz. níže

Jak jsem již napsal, mozek AI pracuje ve 4 krocích a v tom nejjednodušším příměru si můžeme představit celý matematický propočet AI následovně:

1. V základní tabulce tokenů si ty parametry v každém sloupci u každého řádku/tokenu představte nikoliv jako abstraktní číslo, ale jako „štelovací šroubeček“ a parametr je hodnota „utažení nebo pootočení šroubečku“ … např. řádek tokenu „svař“ má 4.096 sloupců s parametry → představte si to jako 4.096 „štelovacích šroubečků“ a uvedené hodnoty pak udávají jak přesně je „šroubeček“ nastaven, resp. zašroubován. Připomínám, že parametry jsou malá čísla a počet desetinných míst má vliv na přesnost výpočtu, což se jeví jako „inteligence“ AI – např. parametr tokenu „svař“ může mít ve sloupci 2.034 hodnotu 0,00128 … tedy šroubeček č. 2.034 je zašroubován na 0,00128. Tyto parametry/šroubečky v podstatě velmi přesně charakterizují vlastnosti tokenu – např. jestli má token blíže k životnému nebo neživotnému stavu, blíže k češtině nebo angličtině atd. a přesné hodnoty se ustanovují při tréninku AI.
2. Hlavní výpočetní část (Transformer) si pak představte obdobně – jako stroj, který má sice 32 miliard parametrů, ale každý parametr představuje „štelovací šroubeček“, resp. přesnou hodnotu jeho pootočení/nastavení a ve výsledku všechny „šroubečky/parametry“ určí, jak bude probíhat výpočet. Pozn. – nejbližší přirovnání mě napadá s řídící jednotkou (ECU) automobilového motoru, který může mít 30.000 – 70.000 parametrů, podle kterých pak celý motor pracuje. Parametry ECU řídí chod motoru, parametry Transformeru AI pak matematický výpočet.
3. Pokud tedy v druhém kroku získáváme soubor čísel (vektorů) z tokenů zadaných na vstupním dotazu, pak ve třetí části se tento soubor čísel propočítává podle nastavení 32 miliard „štelovacích šroubečků“
4. Výsledkem výpočtu je opět jen soubor čísel, který je ve čtvrté části „mozku“ AI jen zpět převeden na tokeny/slova.

Podstata trénování

Dříve jsem uvedl, že na úplném začátku, tj. při prvním sestavení nenatrénované AI (nemá zmrazené váhy), jsou parametry v základní tabulce tokenů a 32 miliard parametrů v hlavní, třetí, výpočetní části nahodilá čísla. Podstatné je, že parametr nesmí být roven nule nebo prázdný. Pokud tedy při prvním spuštění nenatrénované AI zadáte např. dotaz: „Jaké je hlavní město ČR?“, tak se spustí celý proces výpočtu, ale protože všechny parametry jsou nahodilé, tak výsledek bude nesmyslný – např.: Hlavní město ČR je xj?*3z. Správná odpověď je ale „Praha“. První odpověď AI označí vývojáři jako chybnou a uvedou správnou odpověď „Praha“. No a nyní nastane něco, co si představte jako „zpětný chod“ nebo zpětný propočet, kdy AI si některé parametry upraví na nové hodnoty tak, aby při opakovaném stejném vstupním zadání vypočítal jako správné slovo „Praha“.

Pozn. 1 – V určitém stupni trénování se model AI vždy tzv. zmrazí/uzavře a vydá pro lokální používání ve stavu „read-only“. Model se „zmrazenými váhami“ nelze klasicky „dotrénovat“, jen upřesnit pomocí „fine-tuningu“. Na originál modelu se pak pokračuje s trénováním dále a při příštím „zmrazení vah“ dostaneme natrénovanější, tj. chytřejší model …

Pozn. 2 – Tento „zpětný chod“ (odborně backpropagation) tedy nikdy neprobíhá u vás doma na počítači. Lokální verze AI je už hotová a pevně zamčená. Tento proces učení/tréninku probíhal před uzavřením/zmrazením vah AI v obřích datových centrech pod dohledem vývojářů. Tam počítače miliónkrát dokola zkoušely vypočítávat následující slova, porovnávaly je se správnými texty z internetu(?) a pomocí zpětného chodu ladily těch 32 miliard šroubečků tak dlouho, dokud model nezačal odpovídat správně. Domů si tedy stahujete hotový, „zafixovaný/natrénovaný“ model AI.

Jestliže v základní tabulce tokenů máme pro každý token 4.096 parametrů, tak tohle si ještě asi jde představit a dosledovat, který „šroubeček“ byl pootočen, o kolik a proč. Ovšem v hlavní výpočetní části máme 32 miliard „šroubečků“ a tvrdím, že po světě nechodí moc lidí, kteří by uměli zdůvodnit proč a o kolik se některý z těch 32 miliard parametrů změnil. To jsou ty nářky vývojářů, že přestože algoritmus znají, nejsou přesně schopni určit, který parametr se změnil, proč zrovna ten a ne jiný a o kolik ho bylo třeba změnit.

No a tímto způsobem se trénuje AI dál – další dotaz např. bude: Hlavní město Polska → AI napíše nesmysl, vývojáři napíší správnou odpověď a AI spustí „zpětný chod“ a upraví některé parametry tak, aby při stejném dotazu bylo vypočítáno správně „Varšava“. V podstatě je to jak učit neznalého žáka → napřed odpoví špatně, Vy ho opravíte a řeknete správnou odpověď a žák by si to měl zapamatovat tak, aby při stejném dotazu v budoucnu odpověděl správně. AI má oproti lidskému žákovi výhodu – nezná prázdniny, nezná svátky, nezná volno, nezapomíná a vše si pamatuje díky tomu, že má 32 miliard + 4.096 „šroubečků“, které si nastavuje a při opakovaném stejném dotazu si jenom zjistí přesné nastavení, které má použít ve výpočtu.

Toť opět vsjo → trénování AI není nic jiného než pokládání otázek -> vyhodnocování odpovědí a zadání správné → „zpětný chod AI“ → nastavení některých parametrů v základní tabulce tokenů (embedding matici) a v hlavní „výpočetní části“ (Transformeru).

Rozdíl oproti lidskému učení je ten, že trénink AI může běžet 24/7/365 (AI nezná prázdniny, volné svátky, únavu… atd.), přičemž na základní dotazy a odpovědi můžete použít nějakou formu automatizace, takže učení může být násobně rychlejší než u lidí. Ale i tak se jedná o vyšší milióny dotazů a odpovědí. Jen zopakuji – lokální instalace AI modelu nejde trénovat nebo dotrénovat, lokální model je vždy do nějaké úrovně natrénovaný a uzavřený, resp. se zmrazenými vahami.

Další potenciál je následující a přímo vyplývá z principu – řekněme, že máme dva lidské jedince a každý má vystudované 2 specializace na úrovni vysoké školy. Tito dva pak mohou mít klidně i nebinární styk, ale zatím neexistuje způsob, jak by si během několika málo minut předali své vědomosti tak, aby každý měl znalosti ze všech čtyř specializací. U AI tomu ale může být jinak, protože ty vědomosti jsou pouze data jednotlivých parametrů … a přehrát je druhé AI může být teoreticky coby dup. Sice nemůžete snadno vzít „půlku mozku“ z jedné AI a nahrát ji do druhé, ale můžete nechat jednu AI, aby napsala své znalosti do textů, ze kterých se pak druhá AI bleskově naučí.

Princip neuronové sítě pro technicky zdatnější

Výše jsem uvedl nejjednodušší přirovnání, které mě napadlo. Ve skutečnosti se v podstatě počítají velmi přesné prostorové vazby mezi jednotlivými tokeny.

Každý si dovede představit třírozměrný prostor, ve kterém jsou osy X,Y a Z (Z se možná bude muset přejmenovat ať to není propagace proruských narativů). Pokud by neuronová síť pracovala jen s třírozměrným prostorem, pak by základní tabulka tokenů měla jen tři sloupce a v každém pak parametr, který by určoval přesné umístění daného tokenu ve třírozměrném prostoru. Jenže, základní tabulka tokenů má 4.096 sloupců/parametrů, tedy se v podstatě jedná o vícerozměrný prostor, který nemá jen 3 osy, ale má 4.096 os. Každý parametr v základní tabulce tokenů tak velmi přesně určuje polohu daného tokenu v tomto 4096-rozměrném prostoru.

Hlavní, třetí, výpočetní část (transformer) „mozku“ AI pak dělá to kouzlo, že tyto polohy v prostoru dynamicky mění a ohýbá podle kontextu celé věty. Těch 32 miliard šroubečků/parametrů zařídí, že např. slovo „zámek“ se posune v prostoru blíž ke slovu „klíč“ nebo „hrad“ podle toho, o čem byl vstupní dotaz. Výsledkem celého tohoto matematického výpočtu je nový bod v prostoru.

Na úplném konci se pak jednoduše podívá zpět do základní tabulky tokenů a jako další slovo vybere to, které je tomuto výslednému bodu geometricky nejblíže.“

Opis téhož procesu, ale jinými slovy může být následující

1. Vstup a embedding prostor – pokud má embedding rozměr 4096, pak je každé slovo/token reprezentováno jako bod (vektor) ve 4096-rozměrném prostoru. Tyto souřadnice v sobě nesou základní sémantický význam slova (např. že „král“ má blízko k „muž“ a „královna“ k „žena“).

2. Výpočetní část (Transformer a Attention mechanismus) – Transformer neměří jen statickou vzdálenost tokenů, ale dynamicky mění jejich význam na základě kontextu.

• Máme větu: „Jeřáb zvedl těžký náklad.“ versus „Jeřáb odletěl na jih.“
• Na vstupu má slovo „Jeřáb“ v embedding matici stále stejné počáteční souřadnice.
• Mechanismus pozornosti (Self-Attention) se podívá na ostatní tokeny v textu. V prvním případě zjistí, že je tam „náklad“, a ve druhém „odletěl“.
• Na základě toho Transformer tyto vektory v průběhu svých vrstev (Layer) přepíše (posune v prostoru). Vektor pro „Jeřáb“ v první větě se posune blíž ke stavebním strojům, ve druhé větě blíž k ptákům.

3. Generování dalšího slova -> na konci všech vrstev Transformeru máme vypočítaný výsledný vektor posledního tokenu, který zohledňuje význam celého předchozího textu (vstupního dotazu) – můžeme taky říct, že … vektor posledního tokenu má v sobě „nasáklý“ význam celého předchozího textu (vstupního dotazu).

Kdyby model fungoval tak, že jen najde nejbližší slovo k tomuto bodu, generoval by strašně deterministický, nudný a často zacyklený text. Místo toho se děje toto:

1. Projekce do slovníku (Unembedding): Finální vektor (o velikosti 4096) se vynásobí s obří maticí slovníku (který má třeba 32 000 nebo 100 000 tokenů).
2. Výpočet skóre (Logits): Výsledkem není jeden bod, ale seznam čísel (skóre) pro úplně každý token v celém slovníku. Každý token dostane body podle toho, jak moc se do daného kontextu hodí.
3. Převod na pravděpodobnost (Softmax): Tato skóre se převedou na procenta (např. token „strom“ má 60 %, „les“ 20 %, „auto“ 0.01 %…).
4. Vzorkování (Sampling): Model si z této distribuce pravděpodobností vybere příští token. Tady vstupuje do hry tzv. temperatura. Pokud je nízká, model vybere téměř vždy ten nejpravděpodobnější token. Pokud je vyšší, dává šanci i méně pravděpodobným slovům, což zajišťuje kreativitu a lidskost textu.

Shrnutí v jedné větě –> výpočet v třetí části (Transformeru) na základě kontextu vygeneruje procentuální předpověď pro každé slovo, které v jazyce existuje, a z tohoto seznamu se následně s určitou mírou náhody (viz. výše bod 4. – temperatura) vybere „vítěz“. Tento nový token se pak připojí na konec textu a celý proces se opakuje pro další slovo.

Nejdůležitější -> je třeba VŽDY mít na mysli, že AI nepřemýšlí, neuvažuje a neumí lidsky posuzovat smysl a pravdivost sdělení nebo zprávy. Pokud AI bude natrénovaná nad souborem textů a dat, které „dokládají“, že USA je ráj na Zemi a Čína naprosté peklo, pak odpovědi AI budou přesně v tomto duchu …