Katedra Informatyki Ekonomicznej

Automatyczne tworzenie baz wiedzy z wykorzystaniem dużych modeli językowych

Możliwości dużych modeli językowych (LLM) można znacząco rozszerzyć, łącząc je z zewnętrznymi bazami wiedzy, np. z wykorzystaniem generowania wspomaganego wyszukiwaniem informacji (ang. Retrieval-Augmented Generation, RAG). Utrzymanie takich baz wymaga jednak znacznego nakładu pracy. Dlatego istotnym kierunkiem badań pozostaje wykorzystanie wiedzy zapisanej bezpośrednio w parametrach modeli językowych, bez konieczności sięgania do zewnętrznych źródeł informacji.
19 listopada, 2026

W otwartym dostępie ukazała się publikacja pt. „Pre-training Aware Directed Reasoning for Closed-Book Knowledge Base Construction”, autorstwa mgra Mikołaja Tyma, pracownika Katedry Informatyki Ekonomicznej. Praca przedstawia metodę wykorzystującą duże modele językowe do automatycznego uzupełniania baz wiedzy. Publikacja została zaprezentowana podczas międzynarodowej konferencji EMNLP 2026, która się odbyła w dniach 24-29 października 2026 roku w Budapeszcie.

W ramach badań opracowano metodę automatycznego pozyskiwania faktów z dużych modeli językowych. Jej skuteczność oceniono w sześciu kategoriach faktów, dotyczących m.in. powierzchni obiektów geograficznych czy laureatów nagród. Ważnym elementem badań było również porównanie 18 modeli językowych o otwartych wagach, liczących do 32 miliardów parametrów.

Wyniki pokazały, że modele osiągające wysokie wyniki w popularnych testach porównawczych (np. w zadaniach programistycznych) niekoniecznie najlepiej sprawdzają się w automatycznym tworzeniu baz wiedzy. Co więcej, największy z analizowanych modeli nie okazał się najlepszy w tym zadaniu. Opracowana metoda pozwoliła ponadto uzyskać na zbiorze testowym wynik ponad dwukrotnie wyższy niż rozwiązanie referencyjne.

Artykuł został opublikowany w materiałach 11. edycji warsztatu „Automated Knowledge Base Construction” (AKBC 2026), poświęconego automatycznemu tworzeniu baz wiedzy. Wydarzenie odbyło się w ramach konferencji EMNLP 2026 (Conference on Empirical Methods in Natural Language Processing), jednej z najważniejszych międzynarodowych konferencji naukowych poświęconych przetwarzaniu języka naturalnego. Pełny tekst artykułu jest dostępny na stronie ACL Anthology. DOI: doi.org/10.18653/2026.akbc-1.35

Strona korzysta z plików cookie w celu realizacji usług zgodnie z Polityką prywatności.
Możesz określić warunki przechowywania lub dostępu do cookie w Twojej przeglądarce lub konfiguracji usługi.