Historia Muzeum Ludowych Instrumentów Muzycznych w Szydłowcu zostało powołane decyzją Ministerstwa Kultury i Sztuki oraz władz województwa kieleckiego w 1968 roku jako oddział Muzeum Świętokrzyskiego w Kielcach. Po trwających siedem lat pracach przygotowawczych prowadzonych we współpracy z badaczami polskiego folkloru muzycznego muzeum otwarto dla zwiedzających 19 maja 1975 roku, udostępniając na ekspozycji ponad 300 instrumentów i narzędzi muzycznych. Współtwórcami ekspozycji stałej byli Jadwiga Sobieska oraz dr Jan Stęszewski.
W 1976 roku, po nowym podziale administracyjnym kraju, muzeum uzyskało status placówki samodzielnej. . W tym też czasie instrumenty z kolekcji muzeum zaprezentowano na wystawie w Göteborgu. W 1985 roku instytucja zorganizowała pierwszy Ogólnopolski Konkurs na Budowę Ludowych Instrumentów Muzycznych, a wystawa pokonkursowa była pierwszą wystawą czasową zorganizowaną w muzeum.
Od 1978 roku instytucja zaczęła nabywać do zbiorów także eksponaty artystyczno-historyczne, obejmujące m.in. materiały pisane, ikonografię, dokumenty, meble, przedmioty codziennego użytku, detale architektoniczne;