Géc helynévhez fűzött eredetmagyarázatok meglehetősen bizonytalanok. A község nevének utótagja valószínűleg a Gergely személynév becéző változata.

A honfoglalás utáni évszázadokban Nagygécként (Nagy-Gécz) említették a Kacsics nemzetség tulajdonában álló települést. A 13. század elején az e nemzetségből származó Simon bán birtoka volt, akit Gertrúd magyar királyné meggyilkoltatásában való részessége miatt összes javaitól megfosztottak, majd birtokait, II. András király a Szák nemzetségnek adományozta. Ezután a Szák nemzetség lett a falu birtokosa, de 1274-ben II. Pósa Kacsics nemzetségbeli Farkasnak, a Szécsényi család ősének adta cserébe.

A 14. század elején a Záh nemzetség birtokába került. Záh Felicián visegrádi merénylete miatt az ő javait elkobozták és I. Károly király 1335-ben az Ákos nemzetségbeli Cselen fia Sándor fia János királynéi alétekfogónak és testvérének, Jakabnak adományozta. A 15. században már három Gécről – Felsőgéc, Középsőgéc és Alsógéc helységekről – emlékeztek meg az oklevelek. 1448-ban Felsőgéc a Duzma család birtoka volt. Alsógéc pedig 1457-ben a Nagyszelei családé volt. 1455-ben mind a három Géc Szécsényi László birtokában volt és a szécsényi uradalomhoz tartoztak.

A török hódoltság kezdetén az 1548-as adóösszeírásban mindhárom falu az elpusztult települések listáján szerepelt. 1598-ban pedig Szerémy Mihály volt a birtokosa. 1715-ben hét magyar háztartását írták össze, 1720-ban pedig nemes községként, adóköteles háztartások nélkül szerepelt. 1770-ben Szerémy János, Ficsor János és András, 1826-ban Szerémy Elek és a Géczy család, később pedig a Horváthy, a Balás, a Lisznyay, a Dubraviczky és az Ivánka családok, valamint Szerémy Béla és Ivánka Ödön örökösei voltak a birtokosai.

A mai faluhoz tartozó Kisgéc és Karpegéc valaha puszták voltak. 1787-ben templomot is emeltek a helybéliek, a műemlék jellegű épület ma is látogatható a falu központjában. A 20. század elején Nógrád vármegye Szécsényi járásához tartozott. Az I. és a II. világháború érintette Magyargéc és Kisgéc településeket is. Szomorú emlékeit az elesett hősök neveivel a templom falán elhelyezett emléktáblák őrzik. 1910-ben 722 magyar lakosa volt, ebből 691 római katolikus, 10 református, 15 evangélikus volt.