Bielik został wytrenowany na danych w języku polskim, dzięki zasobom obliczeniowym dwóch najszybszych (wg stanu na 2025) superkomputerów w Polsce – Heliosa i Atheny, udostępnionych przez Akademickie Centrum Komputerowe Cyfronet AGH. Do wytrenowania Bielika użyto zasobów dostępnych na wolnej licencji takich jak: polskie dokumenty prawne, ustawy, Projekt Gutenberg czy Wikipedia.
W 2025 roku nad Bielikiem pracowało 10-15 osób, z czego 5 osób jest w zespole trenującym.
Twórcy pracują także nad projektem Sójka, który umożliwia blokadę treści pochodzących z dużego modelu językowego w zależności od ustawionej kategorii np. przemoc czy wulgaryzmy.
6 maja 2025 została wydana wersja 3 Bielika w dwóch rozmiarach: 1,5 i 4,5 mld parametrów, wraz z wersją 2.5 z 11 mld parametrów. Modele w wersji 3 są oparte na modelu fundamentalnym Qwen 2.5 i posiadają własny tokenizer dostosowany do języka polskiego.
1 stycznia 2026 została wydana wersja 3 Bielika z 11 mld parametrów.