Nowe polskie modele AI mogą zwiększyć niezależność technologiczną krajowych podmiotów w obszarze wyszukiwania informacji. Rodzina modeli PolDense, opracowana przez AI Lab w Ośrodku Przetwarzania Informacji, jest przeznaczona do pracy z językiem polskim. Według twórców niektóre z tych modeli osiągają w tej pracy lepsze wyniki niż większe modele wielojęzyczne i mogą działać przy znacznie mniejszych wymaganiach sprzętowych.

Rodzina PolDense, przeznaczona dla języka polskiego, obejmuje sześć modeli opartych na architekturze ModernBERT i technologii ettin-encoders. Mają one od 17 mln do 1 mld parametrów. Zostały opracowane z myślą o systemach pracujących z dużymi wolumenami danych nieustrukturyzowanych, w szczególności w wyszukiwarkach, chatbotach, asystentach AI oraz aplikacjach wykorzystujących architekturę RAG (Retrieval Augmented Generation). Potrafią analizować teksty o długości nawet 8192 tokenów.

– Są to specjalistyczne modele językowe, których celem jest wsparcie wyszukiwania informacji. Trzeba być świadomym, że nie są one porównywalne z modelami typu ChatGPT, Claude czy chińskie Qwen i DeepSeek, ponieważ nie są to modele generatywne – mówi agencji Newseria dr inż. Marek Kozłowski, kierownik AI Lab w OPI-PIB. – Modele wyszukiwania informacji są bardzo ważne. To przede wszystkim wsparcie rewolucji agentowej, która obecnie następuje i która będzie oparta na wykorzystaniu własnych zbiorów danych. Żeby duże modele językowe przetwarzały właściwe dane, należy je wyszukać, i po to właśnie są modele PolDense – aby skutecznie wyszukiwać informacje w naszych lokalnych zbiorach danych i potem przekazywać je do dużych modeli językowych.

Jak wskazują twórcy PolDense, coraz więcej rozwiązań wykorzystujących duże modele językowe opiera się na podejściu RAG, które pozwala generować odpowiedzi nie tylko na podstawie wiedzy zapisanej w modelu, lecz przede wszystkim na podstawie aktualnych i wyszukanych w czasie rzeczywistym dokumentów typowych dla danej branży. Skuteczność takich systemów zależy w dużym stopniu od jakości mechanizmu wyszukiwania informacji. Jednym z podejść pozwalających zwiększyć skuteczność wyszukiwania są tzw. dense retrievery, czyli modele oparte na głębokich sieciach neuronowych. Potrafią one przekształcać pytania i dokumenty w kompaktowe reprezentacje wektorowe, umożliwiające precyzyjne wyszukiwanie treści na podstawie znaczenia, a nie wyłącznie dopasowania słów kluczowych. Właśnie nad tego typu technologiami wyszukiwania informacji pracuje obecnie AI Lab OPI.