Middelalderkirken ble revet i 1859 og stein fra denne ble benyttet til grunnmur for den nye samt til å forhøye kirkegårdsmuren. I 1916 ble tømmerkirken demontert og flyttet til Myklebust hvor den ble gjenreist i en noe endret form, og kirkestedet på Herøy ble lagt øde. Steinkirken hadde ved rivingen rektangulært grunnplan med målene 22,3x8,6 m (utvendig), portaler i skipet mot vest og nord og i korpartiet mot sør. Veggene var delvis kledd med kvader i lokal marmor, og hele eller deler av kirken har hatt en profilert sokkel. Mot skipets sørøsthjørne var det på et tidspunkt blitt satt opp en forstøtningsmur mot vestre del av sørveggen. Ifølge Eide er det trolig at kirken ble bygd på 1100-tallet (Eide 1974, Rabben 1972:42ff, Ekroll 1997:271f). Dette antyder dermed at kirken opprinnelig hadde rektangulært skip med smalere, rektangulært kor, og at den rektangulære form ved rivningstidspunktet var et resultat av en ombygging av det eldre koret. Kirken sto på kanten av en knaus som går bratt ned i sjøen, men det er tvilsomt om dette skulle være grunnen til at den ikke hadde sørportal.