Baza wektorowa: do czego służy w projektach AI
Baza wektorowa od podstaw: podobieństwo, metadane, indeksy i aktualizacje. Przykład pgvector oraz ograniczenia wyszukiwania dla RAG.
Wyjaśniamy, jak działają narzędzia AI i gdzie mogą pomóc przy własnych projektach. Porównujemy rolę chatbotów, agentów i automatyzacji, uwzględniając ich ograniczenia oraz dostęp do danych. Stawiamy na konkretne zastosowania i weryfikację odpowiedzi zamiast obietnic zastąpienia całej pracy jednym promptem.
Baza wektorowa od podstaw: podobieństwo, metadane, indeksy i aktualizacje. Przykład pgvector oraz ograniczenia wyszukiwania dla RAG.
Co oznaczają Q4, Q5, Q8 i FP16? Poznaj wpływ kwantyzacji na pamięć, jakość odpowiedzi i szybkość oraz sposób porównania modeli lokalnych.
Uruchom Open WebUI i Ollamę w Docker Compose. Skonfiguruj lokalny czat, trwałe dane, konto administratora i dostęp przez tunel SSH.
Poznaj prompt injection: ataki przez dokumenty i wyniki narzędzi. Ogranicz uprawnienia agenta AI i sprawdź zabezpieczenia na prostym przykładzie.
Jak działają embeddings? Poznaj podobieństwo wektorów, indeksowanie dokumentów, RAG, filtry uprawnień i prosty przykład obliczeń w Pythonie.
Zrozum okno kontekstowe AI: tokeny, budżet odpowiedzi, skracanie historii i RAG. Sprawdź, dlaczego duży limit nie gwarantuje dobrej odpowiedzi.
Uruchom lokalny model AI w Ollama. Instalacja, wybór modelu, komendy, API, pamięć RAM i VRAM oraz sprawdzenie, gdzie trafiają dane.
Poznaj MCP: host, klient, serwer, narzędzia i zasoby. Zobacz przykład integracji, różnice wobec API oraz zasady bezpiecznego dostępu.
Jak działa RAG? Poznaj indeksowanie dokumentów, wyszukiwanie kontekstu, cytowanie źródeł, uprawnienia i testowanie odpowiedzi modelu AI.
Agent AI wybiera działania i korzysta z narzędzi. Zobacz różnice względem chatbota, przykład pracy oraz sposoby kontroli wyników i uprawnień.