Sangaste kihelkonda mainiti esimest korda 1379. aastal. Kihelkonnas oli ka kirik, kuid korduvate sõdade ajal sai see kannatada. Ajaloost on teada, et 1582. aastal kirik hävitati, hiljem ehitati uuesti üles, kuid 1630. aastal see laastati. Võlvid purustati, alles jäid vaid seinad. 1634. aastaks suudeti korrastada altariruum ja paigaldada kirikule laudkatus.
Teadaolevail andmeil tehti kirik 17. sajandi lõpuks korda.
Põhjasõja ajal põletasid 18. juulil 1702. aastal vene väed kiriku maha. Kogudus ei suutnud kirikut kohe üles ehitada, vaid läbi tuli ajada ajutise «hädakirikuga». Ühe kroonika andmeil olevat see puust «hädakirik» ehitatud 1713. aastal, teise andmeil aga alles 1719. aastal.
Praegune kirik sai valmis 1742. aastal ja on pühendatud Püha Andreasele.
Kirikut on korduvalt remonditud. 1861. aastal tehti korda kirikulöövi altarivõlv ja uuendati kiriku lagi, valmistati uued aknad, uksed, kantsel ja altarivõre. Kirikus on puualtar, mille ehitusaeg pole teada. Kindlasti on see valmistatud enne 1861. aastat, mil kirik sai uue altarivõre. Peauks sai siis praeguse segmentfrontooni ja toskaana pilastrid, mis on omased klassitsistlikule stiilile.
Altaripilt kujutab Kristust ristil ja on valmistatud 1883. aastal Münchenis. Altari kõrval orvas on kipsist ja ea poolest vana kuju – Kristus ristil. Kantsel on kaunistatud gooti stiilis ornamentidega, mis on pärit 1861. aastast. Kantsli ehitaja ja täpne ehitusaeg on teadmata.
1873. aastal ehitati puidust neobarokne haritorn. Samal aastal paigaldati kirikule uus sindelkatus, kuid hiljem asendati see kivikatusega. 1905–1906. aastal vahetati välja osa katusekive ja Tartu pottseppmeister Hans Lõoke ehitas kahhelkivist ahjud.
Viimase sõja ajal laastati kirik ja rüüstati ka orel, mis saadi hädapärasesse töökorda alles 1950. aastatel. Täielikult parandas ja uuendas oreli 2004. aastaks meister Ago Tinti saksa oreliehitaja Gerhardt Schmidti annetatud materjalidega.
1964. aastal kaeti kiriku katus eterniidiga, kuid töö oli ebakvaliteetne ja kirik sattus suurde ohtu. 1990. aastal asendati eterniitkatus vaskplekk-katusega. 1991. aastal viidi läbi suur remont.
Silmapaistvad õpetajad
Koguduse õpetajatest on silmapaistev eesti kirjakeele üks loojatest Joachim Rossihnius, samuti maarahvale hariduse jagaja Chilian Rauschert (sündis Frankimaal Coburgis 1653. aastal ja sai Sangaste õpetajaks 1685. aastal).
Chilian Rauschert oli Sangaste koolide asutaja, väsimatu eestlaste hariduse eest seisja ja ustav luterlane, kes keeldus vannet andmast Vene tsaarile. 1703–1713 oli ta asumisel Moskvas. Kui ta tagasi pääses, oli kihelkond laastatud. Sellest hoolimata teenis ta kogudust veel aastail 1713–1717, st oma surmani. Tema poja Gottard Ferdinandi ametiaja jooksul ehitati üles praegune kirik.
Õigeusku minek
1840. aastatel toimus üleminek apostlikku õigeusku. 1841. aasta augustikuu keskel läksid ka Sangaste talupojad Riia poole teele. Neli neist vangistati Riias ja saadeti sandarmite saatel Valka. Seal anti nad sillakohtu kätte, kes neile kuberneri käsul Luke kiriku juures vitsu laskis anda.
Kõige jaburamad olnudki Sangaste talupojad. Nad ilmusid juba ärevuse algul suuremates hulkades ja mitu korda kohaliku õpetaja juurde ja nõudsid tunnistusi, et end Riias üles kirjutada lasta.
Eriti kange rahvaässitaja olnud Keeni valla peremees Jaan Hällat. 4. ja 5. septembril uuris kihelkonnakohus asja ja avastas, et vaid 40 talupidajat polnud end veel üles kirjutada lasknud, ülejäänud olid seda juba teinud.
21. augustil 1845 ilmus kindralkuberneri üleskutse vene usku üleminekuks ja septembri keskel algas Sangastes luteriusust eemaldumine. Esimesed seitse Riias salvitut jõudsid kodukohta tagasi ja kõnelesid, et neile on lubatud hingemaad ning orjusest vabastamist. Üks tagasitulnud Sangaste taluperemees Karl Kirschbaum kõneles, et teda olla piiskop suudelnud ja ütelnud, et talupoegade seisukord muutub paremaks ja tema, Kirschbaum, saavat kiriku teenriks. Ta oli tõendanud Sangaste mõisa peretoas, et tuleval kevadel ei tehta mõisahärrale enam mingit orjatööd. Kirschbaum anti kohtu alla. Maakohtu otsus nägi ette vitsanuhtluse kuriteokohal ja Siberisse saatmise. Nuhtlust talle siiski ei antud, kuid kirikuteenriks ta ka ei saanud.
Aasta lõpuks oli end salvida lasknud 700 meest ja 22 naist. Kirikus käimine vähenes. Koolimajad seisid tühjana. Ka sel aastal, nagu eelmiselgi, ikaldus lõikus. Sel aastal mitte vihmavalingute tõttu, vaid põua pärast. Kuna 1844. aastal oli magasiaitadest tagavarad viimseni ära tarvitatud, siis sellel aastal ei olnud enam kuskilt toetust saada. Näljahädale lisaks tuli ka kõhutõbi, mis Sangaste kihelkonnast 749 inimest hauda viis.
Jaanuaris 1846 avaldati sillakohtu käsk leida kohe ajutised ruumid vene õigeusu kirikutele ja kindlaks määrata alalised tulevased asukohad. Et Sangaste kihelkonnas ühtegi ajutist ruumi kiriku jaoks ei leidunud, laskis Sangaste mõisa omanik neli versta Sangaste kirikust eemal ehitada kesktalvel eraldi kiriku. Ehitustöid pidid mõisavalitsuse käsul tegema ka luteriusulised.