Der Name des Baustoffs "Zement“ geht auf die Römer zurück, die seit dem 3. Jahrhundert v. Chr. Bauwerke aus einem Gemisch von Bruchstein, Puzzolan- und Ziegelmehl sowie Sand unterschiedlicher Korngröße und gebranntem Kalk als Bindemittel mit "Opus Caementitium“ bezeichneten. Die Bauweise wurde für Mauern, Kuppeln, Brücken, Hafenanlagen, Wasser- und Abwasseranlagen sowie beim Bau von Straßen angewendet. Überliefert sind die Kenntnisse über die Bauplanung und Architektur sowie über den Baustoff und die Bauausführung von dem römischen Baumeister Vitruv, der wahrscheinlich im letzten Jahrhundert v. Chr. gelebt und gearbeitet hat. Später wurden die feinen "Zusatzstoffe“ wie natürliche Puzzolane oder Ziegelmehl als "Caementum“ bezeichnet, das mit gebranntem und gelöschtem Kalk vermischt und mit Wasser versetzt bei ausreichend langer Feuchtlagerung hydraulisch erhärtete und im "Römerbeton“ zu Druckfestigkeiten von etwa 5 bis 40 N/mm2 führte. Diese Zuordnung des Begriffs "Caementum“ und seiner Abwandlungen "Cementum“, "Cimentum“ oder "Cement“ blieb bis zum Beginn des 19. Jahrhunderts n. Chr. erhalten.
Ein Wandel der Zuordnung trat im 18. Jahrhundert ein. Der Engländer John Smeaton (1724–1792) entdeckte, dass Kalkbindemittel, die aus einem mit Tonmineralien verunreinigten Kalkstein gebrannt werden, von sich aus und ohne Zugabe von puzzolanischen Zusatzstoffen teilweise hydraulisch erhärteten. Er nutzte diese Erkenntnis beim Bau des Eddystone-Leuchtturms bei Plymouth, für den er einen wasserbeständigen Mörtel benötigte. 1796 ließ sich sein Landsmann James Parker ein hydraulisch erhärtendes Produkt patentieren, das er aus einem natürlichen, noch stärker tonhaltigen Kalkmergel gebrannt und als "Romancement“ auf den Markt gebracht hatte. Damit wurde erstmals ein selbst erhärtendes Bindemittel und nicht ein puzzolanischer Zusatzstoff als "Zement“ bezeichnet. Die beiden Kalkbindemittel vonJ. Smeaton und J. Parker sind mit Wasserkalk bzw. hydraulischem Kalk vergleichbar, da sie nicht bis zur Sinterung erhitzt wurden.
Der Engländer Edgar Dobbs war der erste Baustoffhersteller, der bereits 1810 ein Patent für einen hydraulischen Kalk erhielt, der aus einem künstlichen Gemisch von Kalkstein und tonmineralhaltigen Ausgangsstoffen bestand. Der Franzose Louis J. Vicat (1786–1861) und der Deutsche J. F. John fanden unabhängig voneinander heraus, dass sich Gemische aus Kalkstein und 25 bis 30 M.-% Ton am besten dafür eigneten, hydraulische Kalke mit verhältnismäßig hohen Festigkeiten herzustellen. Aufgrund der systematischen Untersuchung unterschiedlicher Mischungszusammensetzungen wird J. F. John als derjenige angesehen, der den Grundstein auch für die wissenschaftliche Untersuchung der Herstellung und Eigenschaften von Zement legte. Seine Erkenntnis bestand vor allem darin, dass Kalk, Kieselsäure, Tonerde und Eisenoxide während des Brennens bei Temperaturen unter 1000 °C Verbindungen bilden, die bei Wasserzugabe hydraulisch erhärten.
Auch das Bindemittel, das der Engländer Joseph Aspdin (1778–1855) aus einem künstlichen Gemisch von Kalkstein und Ton herstellte, sich 1824 patentieren ließ und das er aufgrund seiner verbesserten Eigenschaften als "Portland-Cement“ bezeichnete, war nach heutigem Wissen in seiner Zusammensetzung und in seinen Eigenschaften mit dem Bindemitteltyp "Romanzement“ vergleichbar und noch nicht bis zur Sinterung gebrannt. Die Bezeichnung "Portland-Cement“ lehnte sich in erster Linie aus Marketinggründen an den bewährten und gut eingeführten Portlandstein an. Dabei handelte es sich um einen natürlichen Kalkstein, der auf der Halbinsel Portland (Grafschaft Dorsetshire) an der Kanalküste als Werkstein abgebaut wurde und den aus "Portland-Cement“ gefertigten Kunstprodukten farblich sehr ähnlich sah.
William Aspdin (1815–1864), ein Sohn Joseph Aspdins, war offenbar der Erste, der 1843 in einem neu erbauten eigenen Werk in der Nähe Londons einen Portlandzement herstellte, der dem Portlandzement heutiger Definition wesentlich ähnlicher war. Dieser Zement erwies sich aufgrund seiner Festigkeitsentwicklung dem Romanzement deutlich überlegen. Ursache hierfür waren höhere Brenntemperaturen, die bereits zu einer teilweisen Sinterung und damit zu verstärkter Bildung der für Portlandzementklinker typischen Phasen führten. Die deutlich verbesserten Gebrauchseigenschaften dieses Produkts steigerten die Nachfrage auch auf dem europäischen Kontinent, insbesondere in den Niederlanden und in Deutschland. Die Eigenschaften und der für das Produkt erzielbare Preis stellten aber auch den Anreiz für den Aufbau weiterer Produktionsstätten dar.
Der erste Portlandzement wurde in Deutschland ab 1850 von der Firma Brunkhorst & Westfalen in Buxtehude bei Hamburg hergestellt, andere Produktionsstätten gab es bei Lüneburg (Gebr. Heyn) und bei Itzehoe/Lägerdorf (E. Fewer). In diesen drei Werken war William Aspdin als Berater tätig. Als der eigentliche Begründer der deutschen Zementproduktion auf wissenschaftlich-technischer Grundlage gilt jedoch Hermann Bleibtreu (1824–1881), der die ersten beiden, lange Zeit bestehenden Werke in Züllchow bei Stettin (1855) und in Oberkassel (1856–1858) bei Bonn errichtete. In den folgenden Jahren wurden weitere Werke gegründet, so unter anderem 1864 die Werke Amöneburg (Dyckerhoff) und Rüdersdorf (Guthmann & Jeserich) sowie 1873/76 Heidelberg und Leimen (J. P. Schifferdecker). In Frankreich begann die Produktion von Portlandzement 1850, in den USA 1870.
In Deutschland wurde die Entwicklung der Portlandzementherstellung zu Ausgang des 19. Jahrhunderts maßgeblich von Wilhelm Michaëlis (1840–1911) vorangebracht. Nach einer technischen und chemischen Ausbildung sowie Praxiserfahrung in einem Zementwerk verschaffte er sich mit der Veröffentlichung seines Buches über die "Hydraulischen Mörtel“ Anerkennung und Einfluss. Das Buch enthielt erstmals Anforderungen an die Zusammensetzung einer Rohmischung, mit der ein Klinker gesintert und daraus ein raumbeständiger und verarbeitungsfähiger Portlandzement hoher Festigkeit hergestellt werden konnte. Hierfür definierte er einen "Hydraulischen Modul“, nach dem ein Portlandzement hoher Qualität etwa doppelt so viel Kalk aufweisen sollte wie die Summe von Kieselsäure, Tonerde und Eisenoxid. Die Erkenntnisse beruhten auf der Untersuchung der chemischen Zusammensetzung des Brennprodukts und der Prüfung der Zugfestigkeit nach einem von ihm festgelegten Verfahren. Erst Jahre später gelang es der Zementforschung, die physikalisch-chemischen Grundlagen der Kalkbindung, der Kalksättigung, der Phasenbildung und Konstitution sowie der beim Brennen und Kühlen von Portlandzementklinker – im Folgenden als Zementklinker bezeichnet – ablaufenden Reaktionen und deren Einfluss auf den Hydratationsablauf und die Gebrauchseigenschaften aufzuklären. Diese Forschungsarbeit ist unter anderem mit den Namen A. E. Törnebohm, S. B. und W. B. Newberry, H. Le Chatelier, E. Wetzel, E. Spohn, F. M. Lea, T.W. Parker oder H. Kühl eng verbunden.