W roku 1130 po raz pierwszy pojawia się wzmianka o przedstawicielu rodu Peine, Bertholdzie von Paginie, przypuszczalnym budowniczym tutejszego zamku. Około 1200 roku teren ten przechodzi w ręce Gunzelina von Wolfenbüttela i staje się jego lennem. Tradycyjnie powstanie miasta datuje się na rok 1223, chociaż badania archeologiczne wskazują rozpoczęcie budowy już na późne lato 1213 roku. W 1260 miasto przejęło biskupstwo Hildesheimu, które administrowało nim z przerwami aż do roku 1803. Do 1428 mieściła się tutaj diecezjalna mennica[2]. Duża część miasta została zniszczona w pożarze 16 marca 1510. W latach 1518–1522 miasto było trzykrotnie oblegane podczas konfliktu biskupstwa Hildesheimu i księcia Lüneburga-Celle z biskupstwem Minden i księciem Calenberga. W 1542 rada miejska proklamowała przejście na luteranizm. Podczas kolejnego pożaru z 15 maja 1557 zniszczony został kościół, ratusz oraz wszystkie miejskie dokumenty[3].
Po wybuchu wojny trzydziestoletniej w 1624 roku odnowiono miejskie fortyfikacje. W 1626 miasto na krótko zajęły wojska duńskie, lecz jeszcze w tym samym roku oblężyły je wojska Johana von Tilly'ego, które w następnym roku ustanowiły miasto swoją siedzibą. W 1628 cesarz nakazał mieszkańcom przejść na katolicyzm lub opuścić Peine w ciągu trzech miesięcy, wskutek czego z miejscowości wyprowadziło się wielu protestantów. W następnych latach miasto na przemian zajmowały wojska carskie i szwedzkie, a w 1633 władzę nad miastem przejęło księstwo Brunszwiku, co umożliwiło powrót luteranizmu do miasta.
1 grudnia 1843 otwarto przechodzącą przez miasto linię kolejową Hanower–Brunszwik[4], a w 1858 roku impuls rozwojowy dało otwarcie huty żelaza Ilseder Hütte. W 1866 miasto wraz z całym Królestwem Hanoweru zostało zaanektowane przez Królestwo Prus. W 1882 otwarto hutę stali. W 1885 Peine ustanowiono siedzibą powiatu, a w 1919 miasto zelektryfikowano. W latach 1921–1929 wybudowano odcinek Kanału Śródlądowego do Hanoweru, a w 1938 – do Magdeburga, co skutkowało spadkiem znaczenia transportu kolejowego. W 1922 władze miasta zakupiły sąsiednią wieś Telgte, uzyskując nowe tereny pod rozbudowę. W latach 1935–1936 do miasta doprowadzono autostradę[5].
Miasto uniknęło większych zniszczeń podczas II wojny światowej, 10 kwietnia 1945 zostało przekazane wojskom amerykańskim[5]. W latach 1964–1977 wzniesiono zachodnią obwodnicę miasta, a w 1974 w granice Peine włączono 14 sąsiednich gmin. Do upadku wielu przedsiębiorstw w mieście doprowadził kryzys na rynku stali z 1975 roku[6]. W grudniu 1978 otwarto prawie kilometrowy wiadukt Nord-Süd-Brücke nad linią kolejową[7]. W latach 90. otwarto dwa parki biznesowe, a w 1994 rozpoczęto budowę nowej huty stali z elektrycznymi piecami[8]. W 2001 rozpoczęto budowę wiaduktu Stahlwerkbrücke nad terenami hutniczymi w ciągu wschodniej obwodnicy[9].
17 czerwca 2010 w dzielnicy Telgte doszło do zderzenia pociągu osobowego z wykolejonym składem towarowym, wskutek zdarzenia 16 osób zostało rannych, a linia kolejowa była nieczynna przez pięć następnych dni[10].
Miejscowość jest ośrodkiem przemysłu metalowego, produkcji nawozów fosforowych, nafty i hutnictwa żelaza. Port nad Kanałem Śródlądowym. W pobliżu eksploatacja ropy naftowej.