Het dorp is aan het eind van de Middeleeuwen ontstaan als ontginningsdorp op een oeverwal van de Hunze. Het oorspronkelijke dorp lag ten westen van het huidige. Zoals de naam aangeeft ligt de oorsprong van het dorp in Gieten.
De turfwinning was aanvankelijk kleinschalig. Al in de 15e eeuw worden er eigenaren van buiten de streek genoemd, zodat al vroeg sprake geweest moet zijn van een (gedeeltelijke) scheiding en deling van de gemeenschappelijke gronden. De eerste vervening heeft waarschijnlijk plaatsgevonden nabij De Hilte, waar de Hunze een sterke meander maakte het veen in.
In de 19e eeuw werden er vanuit het Nieuwediep kanalen en wijken gegraven richting Gieterveen waardoor het dorp beter bereikbaar werd en de turfwinning een grootschaliger karakter kreeg. Het dorp verplaatste zich meer naar het oosten. Het dorp groeide in deze periode aanzienlijk, waarbij de meeste nieuwkomers afkomstig waren uit de Groninger Veenkoloniën. Het plaatselijke dialect heeft dan ook meer een veenkoloniaals dan een Drents karakter.
In het begin van de 20e eeuw, toen al het veen was afgegraven, kreeg Gieterveen een sterk agrarisch karakter. De boeren waren voornamelijk afkomstig uit de provincie Groningen. In het begin van de 21e eeuw werkten door de uitstoot van arbeidskrachten weinig inwoners meer in het boerenbedrijf en was Gieterveen een forensenplaats geworden.
’t Kleine Kerkje [1924]
Een verschil van mening over het christelijk onderwijs leidde in 1921 tot een afsplitsing van de vrijzinnig hervormden in Gieterveen. Zij bouwden in 1924 een eigen kerk of kapel schuin tegenover de bestaande kerk. De kerk heeft tachtig jaar dienstgedaan voor deze kerkelijke groepering. In 2004 besloot de vereniging van vrijzinnig hervormden om zich aan te sluiten bij de inmiddels ontstane Samen op Weg-gemeente. Deze gebruikte de oude hervormde kerk aan de Broek 7 waardoor het kleine Kerkje overbodig werd. Om sloop te voorkomen droegen de vrijzinnigen hun kerk over aan de Stichting Oude Drentse Kerken. Het kerkgebouw werd in 2008 gerestaureerd en kreeg daarna een nieuwe bestemming en werd omgevormd tot een sociaal-cultureel centrum.
Hervormde kerk [1840]
In 1841 werd de eerste hervormde kerk in aan de Broek 7 in Gieterveen in gebruik genomen. Het is één van de weinige nog goede waterstaatskerkjes in Drenthe, de spitsbogige ramen en het torentje zijn typerend voor de stijl van de kerkbouw in deze tijd.
Pastorie [1840]
De pastorie werd in dezelfde tijd, in de eerste helft van de 19e eeuw, gebouwd als de naast de pastorie gelegen eerste hervormde kerk van Gieterveen. Op 10 november 1839 werd toestemming van de koning verkregen om een eigen gemeente te stichten voor de bewoners van Gieterveen en Bonnerveen, die na de bouw van de kerk niet meer voor hun kerkgang op de kerk van Gieten waren aangewezen. De pastorie werd gebouwd in een ambachtelijke, traditionele stijl. Het gebouw van het zogenaamde dwarshuistype verkeert niet meer geheel in de oorspronkelijke staat. De dakkapellen aan de voor- en achterzijde dateren uit een later tijd. Ook de raampartijen en de entree hebben in de loop der tijd wijzigingen ondergaan. De pastorie is erkend als een provinciaal monument. De tuin voor het pand met de vier afgeknotte linden en het muurtje als afscheiding naar de straat maken deel uit van het monumentale geheel.
Korenmolen de Eendracht [1877]
De Eendracht is in 1877 gebouwd en vanaf 1904 bijna een eeuw in bezit geweest van de familie Mulder. Voor 1877 stond de molen nog elders, De Eendracht is namelijk opgebouwd uit slooponderdelen van een molen uit Nieuw Buinen. Na het overlijden van J. Mulder in 2004 bevond de molen zich in een slechte staat. De molen was niet meer draaivaardig en was dringend aan onderhoud toe. Vanaf 2004 heeft Molenstichting Drenthe zich over de molen ontfermd. Dit heeft geleid tot een omvangrijke restauratie waardoor de molen vanaf 2008 weer volledig functioneert. Na de restauratie is het complex in het bezit gekomen van Het Drentse Landschap. De bijbehorende molenaarswoning is in 2011 gerestaureerd en wordt inmiddels weer bewoond.
