Nógrád megye északkeleti részén fekszik, csupán öt kilométer távolságra a megyeszékhelytől - Salgótarjántól. 

A Dobroda patak völgyében fekvő Karancsalja Árpád-kori eredetű település. Nevét a községtől néhány kilométerre északkeletre, Szlovákia és Magyarország határán magasodó 727 méter magas Karancsról kapta, amit a "Palóc Olimposznak" is szokás nevezni.

A monda szerint a muhi csatamezőről menekülő IV. Béla megpihent a településen. Ennek emlékére építtette a király leánya, Szent Margit a Karancs hegy csúcsára a Boldogasszonynak szentelt kápolnát. A 16. században a Bebekeké, a 18. századtól legjelentősebb földbirtokosa a Jankovich család. Jankovich Miklós a 19. század elején klasszicista stílusú úrilakot épített a faluban, amit az 1950-es években lebontottak.

Szent Miklós tiszteletére szentelt római katolikus temploma 1886-ban épült fel. A község gazdasági életébe az 1800-as évek második fele nagy változást hozott, amikor megnyitották szénbányáit. Ez a tény és Salgótarján közelsége nagyban befolyásolta 20. századi történetét. A község mai képe az utóbbi évtizedek fejlődésének eredménye.