Czego szukasz?

Wpisz temat, narzędzie lub problem do rozwiązania.

← Wszystkie artykuły

Modele AI 7B, 14B i 32B: co oznacza liczba parametrów

Trzy narysowane tuszem sferyczne sieci o rosnącej liczbie węzłów

Model 32B nie musi lepiej rozwiązać twojego zadania niż model 7B. Liczba parametrów opisuje rozmiar jednej części modelu, ale nie jakość danych treningowych, sposób dostrojenia ani warunki uruchomienia. Przy wyborze lokalnego AI warto czytać ją razem z architekturą i wynikami na własnych przykładach.

Oznaczenia 7B, 14B i 32B są przydatne do wstępnego porządkowania modeli. Nie są jednak oceną inteligencji ani gotową odpowiedzią na pytanie o wymaganą kartę graficzną.

Co oznacza litera B

B pochodzi od angielskiego billion, czyli miliarda. Model oznaczony jako 7B ma rozmiar rzędu siedmiu miliardów parametrów. Nazwa często jest zaokrąglona. Dokładną wartość i sposób jej liczenia sprawdź w karcie modelu.

Parametry to wyuczone wartości liczbowe wykorzystywane podczas obliczeń. Nie odpowiadają wprost liczbie faktów, słów ani dokumentów zapamiętanych przez model. Jednego parametru nie da się sensownie opisać jako osobnej odpowiedzi na pytanie.

Nie myl też parametrów z tokenami. Parametry opisują model, a tokeny jednostki przetwarzanego wejścia i wyjścia. Długość rozmowy wiąże się z oknem kontekstu, nie ze zmianą liczby parametrów podczas zwykłego użycia.

Jak czytać konkretną rodzinę modeli

Dobrym ćwiczeniem jest porównanie kart Qwen2.5 w wariantach 7B, 14B i 32B. Karty opisują m.in. liczbę parametrów, strukturę i sposób uruchomienia. Wspólna nazwa rodziny ułatwia porównanie, ale nie zwalnia z kontroli szczegółów każdego wariantu.

Sprawdź pełną nazwę: wersję rodziny, rozmiar, oznaczenie Instruct lub Base oraz format dystrybucji. Model bazowy i model dostrojony do wykonywania instrukcji mogą mieć podobną liczbę parametrów, a zachowywać się inaczej w rozmowie.

Element nazwy lub karty Co sprawdzasz
Rodzina i wersja Do jakiej generacji i architektury należy model
7B, 14B, 32B Przybliżoną skalę liczby parametrów
Base lub Instruct Przeznaczenie i sposób dostrojenia
Q4, Q8, BF16 Reprezentację wag, jeśli oznaczenie jest podane
Licencja Warunki używania konkretnego modelu

Nie pobieraj pliku tylko dlatego, że ma znajomą nazwę. Zweryfikuj autora repozytorium, kartę i zgodność formatu z silnikiem. Instrukcję uruchomienia znajdziesz w poradniku Ollama.

Parametry a rozmiar wag

Przybliżenie pamięci samych wag można zapisać jako liczba parametrów razy liczba bitów na parametr, podzielone przez osiem. Dla umownych dokładnie 7 miliardów wartości przy 16 bitach daje to 14 miliardów bajtów. To około 14 GB dziesiętnych, a nie 14 GiB.

Umowna liczba parametrów Surowe wagi 16-bit Idealne wagi 4-bit
7 miliardów 14 GB 3,5 GB
14 miliardów 28 GB 7 GB
32 miliardy 64 GB 16 GB

Tabela przedstawia rachunek teoretyczny, nie pomiar plików ani minimalne wymaganie GPU. Rzeczywiste formaty kwantyzacji zawierają dodatkowe informacje, a nie wszystkie tensory muszą mieć tę samą precyzję. Podczas pracy dochodzi pamięć kontekstu i buforów.

Zmniejszenie precyzji nie usuwa automatycznie odpowiedniej części parametrów. Zmienia sposób ich reprezentacji. Dlatego model 14B w Q4 nadal jest modelem tej skali, a nie modelem 3,5B. Różnicę dokładniej omawia artykuł o kwantyzacji.

Dense i MoE: dwie różne interpretacje rozmiaru

W modelu dense podczas typowego kroku obliczeń wykorzystywana jest gęsta struktura warstw. W architekturze Mixture of Experts część obliczeń kierowana jest do wybranych ekspertów. Dlatego producenci mogą podawać parametry całkowite i aktywne.

Przykładem jest Qwen3-30B-A3B. Jego karta rozróżnia około 30 miliardów parametrów całkowitych oraz około 3 miliardy aktywowanych. To nie znaczy, że do uruchomienia zawsze wystarczy pamięć jak dla zwykłego modelu 3B. Wagi niewybranego w danym kroku eksperta nadal muszą być dostępne dla kolejnych obliczeń.

Sposób rozmieszczenia wag między GPU, RAM-em i innymi zasobami zależy od silnika. Aktywne parametry pomagają opisać koszt obliczeń, ale same nie wyznaczają całkowitej pamięci ani opóźnienia. Nie porównuj więc bezpośrednio „3B aktywne” z „3B dense” jako identycznych konfiguracji.

Dlaczego większy model nie zawsze wygrywa

Wynik zależy od treningu, danych, dostrojenia i dopasowania zadania. Mniejszy model wyspecjalizowany w ekstrakcji może być wystarczający dla formularza, choć większy lepiej poradzi sobie z innym rodzajem rozumowania.

Znaczenie ma również format wejścia. Nieprawidłowy szablon rozmowy albo ucięty kontekst potrafią pogorszyć wynik niezależnie od liczby parametrów. Jeżeli aplikacja wymaga JSON-a, oceniaj poprawność pól i wartości, a nie tylko naturalność języka.

Brak wiedzy o prywatnych dokumentach nie znika po zwiększeniu modelu. Do dostarczenia kontekstu służy m.in. RAG, a do wyszukiwania podobieństwa często embeddings. To odrębne elementy rozwiązania.

Jak porównać modele we własnym projekcie

Przygotuj kilkadziesiąt reprezentatywnych zadań z opisem poprawnej odpowiedzi. Dodaj przypadki trudne: brak informacji, niejednoznaczne pole, długi dokument i próba wymuszenia niepoprawnego formatu. Ustal kryterium zaliczenia przed obejrzeniem wyników.

Porównuj modele przy zapisanych ustawieniach. Zanotuj wersję, kwantyzację, długość kontekstu, parametry generowania i sprzęt. Zmiana kilku rzeczy jednocześnie utrudnia wskazanie przyczyny różnicy.

Obok jakości mierz czas odpowiedzi i wykorzystanie zasobów przy typowym obciążeniu. Nie ma korzyści z minimalnie lepszego wyniku, jeśli użytkownik nie może doczekać się odpowiedzi. Z kolei szybszy model wymagający ręcznej poprawy większości rezultatów może zwiększać całkowity koszt pracy.

Jeśli zastanawiasz się nad przeniesieniem zadania do chmury, porównaj zaakceptowany wynik i utrzymanie całego systemu. Tę perspektywę rozwija lokalne AI czy API.

Najczęstsze pytania

Czy 7B oznacza siedem miliardów słów?

Nie. To przybliżona liczba parametrów, czyli wyuczonych wartości liczbowych modelu. Nie jest liczbą słów w pamięci ani w kontekście.

Czy model 32B potrzebuje dokładnie 32 GB VRAM?

Nie. Pamięć zależy od reprezentacji wag, kontekstu, silnika i współbieżności. Sama liczba w nazwie nie jest wymaganiem sprzętowym.

Czy kwantyzacja zmienia model 14B w 4B?

Nie. Oznaczenie Q4 dotyczy sposobu reprezentacji wag, a nie redukcji modelu do czterech miliardów parametrów.

Czy większy model zawsze lepiej mówi po polsku?

Nie. Znaczenie mają dane i sposób treningu. Sprawdź polskie zadania z własnej aplikacji, zamiast wnioskować wyłącznie z rozmiaru.

Źródła

Data publikacji: 04.11.2026.

KP
O AUTORZE

Krystian Proć

Tworzę narzędzia do pracy z danymi, systemy backendowe i automatyzacje. Pracuję z SQL, PHP, TypeScriptem i Dockerem; rozwijam m.in. dragon-island.com. AI pomaga mi przyspieszać pracę, a architekturę, weryfikację i decyzje techniczne biorę na siebie. Na Trybie Technicznym dzielę się doświadczeniami z budowania i utrzymywania własnych projektów.

Dyskusja

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *