anatomia llm

7 wpisów pod tym tematem.

• 21 cze 2026

  Anatomia LLM: LoRA i dotrenowywanie modeli

  Jak wyspecjalizować gotowy model, nie ruszając miliardów jego wag: hipoteza niskiego rzędu i sztuczka LoRA, cała rodzina metod oszczędnego dotrenowywania (PEFT), kwantyzacja i QLoRA, a na końcu - po co w ogóle dotrenowywać, czyli jak z surowego modelu robi się asystent przez instruction tuning i RLHF.

• 13 cze 2026

  Anatomia LLM: blok Transformera

  Jak z jednej warstwy uwagi powstaje cały model: trzy rodziny architektur i dlaczego dzisiejsze LLM-y to prawie zawsze „dekoder”, połączenia rezydualne i normalizacja, które pozwalają piętrzyć dziesiątki warstw, sieć FFN jako magazyn wiedzy, a na końcu - jak z wektora liczb wyłania się konkretne słowo, od softmaksu po temperaturę i nucleus sampling.

• 12 cze 2026

  Anatomia LLM: mechanizm uwagi

  Serce Transformera: jak każdy token „rozgląda się” po pozostałych i bierze od nich to, czego potrzebuje, by doprecyzować swoje znaczenie. Od wąskiego gardła w starych sieciach tłumaczących, przez słynny wzór skalowanej uwagi i wielogłowość, po KV-cache, FlashAttention i ostrożne pytanie - co właściwie robią głowy uwagi, skoro „uwaga to jeszcze nie wyjaśnienie”.

• 11 cze 2026

  Anatomia LLM: tokeny i embeddingi

  Sieć nie widzi liter - widzi wektory. Jak tekst rozbija się na tokeny, dlaczego nie na słowa ani nie na znaki, jak algorytmy subword (BPE, WordPiece, Unigram) budują słownik, i jak rodzi się słynna geometria znaczeń, w której „król - mężczyzna + kobieta ≈ królowa” - razem z uczciwą krytyką tej analogii i z kodowaniem pozycji, o którym elementarze milczą.

• 10 cze 2026

  Anatomia LLM: sieci, parametry i trening

  Bierzemy garść neuronów i układamy je w sieć: dlaczego cały model sprowadza się do mnożenia macierzy, jak propagacja wsteczna zamienia losowy szum w rozumienie języka, skąd biorą się słynne miliardy parametrów i co naprawdę mówią prawa skalowania Kaplana i Chinchilli - z wzorami, genezą i konkretami.

• 09 cze 2026

  Anatomia LLM: neuron i funkcje aktywacji

  Najmniejsza cegiełka modelu językowego pod lupą: skąd wziął się sztuczny neuron, dlaczego bez funkcji aktywacji cała sieć byłaby bezużyteczna i czym naprawdę różnią się ReLU, GELU i SwiGLU - z wzorami, genezą i konkretami z GPT, LLaMA i Gemmy.

• 08 cze 2026

  Anatomia LLM: od pojedynczego neuronu do mechanizmu uwagi

  Jak naprawdę zbudowany jest model językowy? Przewodnik bez magii: neuron, wagi, tokeny, embeddingi, mechanizm uwagi, blok Transformera i LoRA - krok po kroku, z interaktywnymi diagramami do samodzielnego pobawienia się.