Modele językowe, takie jak GPT-4, nie „rozumieją” świata. Przewidują kolejne tokeny na podstawie danych, które dostają w kontekście. Dlatego w systemach produkcyjnych nie wygrywa ten, kto napisze najładniejszy prompt. Wygrywa ten, kto najlepiej zaprojektuje całe środowisko informacyjne modelu.
Niedawno pokazywałem Wam, że mój blog zyskał nową funkcję – system RAG, który pozwala AI odpowiadać na pytania w oparciu o moje artykuły. Dziś czas zajrzeć pod maskę tej technologii.
Systemy RAG (Retrieval-Augmented Generation) łączą w sobie potęgę dużych modeli językowych (LLM) z własną bazą wiedzy. Dzięki temu możemy tworzyć asystentów AI, którzy odpowiadają na pytania w oparciu o specyficzne dane.
Ostatnio zastanawiałem się, jak nadać mojej bazie wektorowej drugie życie. Postanowiłem przejść od słów do czynów i rozbudować ją o możliwość interakcji z treściami. Efekt? Asystent AI w architekturze RAG.