Selon la légende, au retour d'un voyage en Grande Bretagne en compagnie de saint Sévère, saint Germain, évêque d'Auxerre, serait passé en 447 par le village qui porte aujourd'hui son nom. Il y installa une famille et indiqua l'endroit où devait être construite une première chapelle.

La construction de l'église actuelle de Saint-Germain remonte au 12e siècle, peut-être même aux dernières décennies du 11e siècle.
À la fin du 12e siècle, elle ne comportait que quatre travées espace entre les piliers sur piliers carrés qui délimitaient trois nefs, un choeur à chevet partie située derrière l'autel plat, peut-être flanqué de deux absidioles, et une tour.

La tour carrée avait été érigée en tête de la nef centrale. Elle ne comportait aucune ouverture extérieure, seule une arcade à sa base permettait l'accès par la nef centrale. Sa base intérieure représentait un carré de 2,65 mètres de côté et son élévation atteignait 15,6 mètres. Les pierres de grès ferrugineux qui ont servi de matériaux proviendraient de la carrière du village proche d'Aische-en-Refail.
A l'entrée du choeur notamment la maçonnerie présentait des fragments de tuiles romaines, probablement abandonnés dans les carrières du Biermont à Aische.
Les nefs étaient portées par des piliers carrés sans imposte pierre en saillie.

---

De nombreuses restaurations eurent lieu au cours des siècles, et la dernière en 1902-1903.
L'église actuelle est composée d'une tour-porche au sud-sud-est, de 3 nefs de 7 travées, d'un choeur carré et d'une abside semi-circulaire.
Les 4 travées primitives sont les plus proches du choeur comme l'indiquent les murs gouttereaux murs latéraux qui supportent les gouttières.

Les arcades sont en plein-cintre en forme de demi-cercle sur des pieds carrés sans imposte et sont surmontées d'étroites fenêtres en plein-cintre.
L'arc triomphal voûte à l'entrée du choeur ouvre sur un petit choeur dont une abside semi-circulaire allonge depuis 1902-1903 le chevet plat primitif. Les bas-côtés et la partie orientale du choeur sont pourvus d'un décor de grandes arcades aveugles et ont été refaits dans le style roman du XXe siècle. Le plafond est en bois.
Comme on peut le voir sur le dessin ci-dessous, le bâtiment offre une grande similitude avec l'église de Wierde (qui est plus grande): les mesures principales sont dans des rapports analogues. Il est permis de supposer qu'elles ont été bâties par la même loge de maçons namurois au XIIe siècle.