Im Zuge des ersten Rahmenplanes 1956 für den Ausbau der Donau in Österreich waren im Bereich zwischen Wien und Ybbs drei Staustufen geplant: Grafenwörth, Tulln und Klosterneuburg. Durch die Weiterentwicklung von Kraftwerks- und Dammtechniken war es jedoch Ende der 1960er-Jahre möglich, die Anzahl von drei kleineren auf zwei große Staustufen dazwischen zu reduzieren: Altenwörth und Greifenstein.
Das Projekt sah die Errichtung von Krafthaus, Wehranlage und Schleusen auf einem Areal nördlich des alten Donau-Verlaufes in Trockenbauweise vor. Die Linkskurve der Donau wurde an dieser Stelle durch eine Sehne abgekürzt, wodurch das gesamte Bauwerk in einer einzigen Baugrube ohne Behinderung des Schiffsverkehrs errichtet werden konnte.
Nach dem Baubeschluss am 24. Juni 1981 begannen zwei Monate darauf die Vorarbeiten mit der Schlägerung von 295 Hektar Auwald zur Errichtung der Baustelleneinrichtungen. Der offizielle Baubeginn erfolgte am 1. November des Jahres mit dem Aushub der Baugrube, Drainagearbeiten und der Errichtung der Fundamente.
Die Aushubarbeiten am Durchstich der Donau mit einem Aushub-Volumen von insgesamt 10,7 Mio. m³ fanden im Sommer 1983 statt und im November war der Bau soweit fertiggestellt, dass das neue Donaubett geflutet werden konnte. Der Maschinensatz 1 wurde am 28. April 1984 in Betrieb genommen, knapp drei Wochen später erfolgte der erste Vollstau und am 21. Mai wurde die offizielle Eröffnung des Kraftwerks Greifenstein begangen.
In den folgenden Monaten wurden nacheinander alle neun Maschinensätze in Betrieb gesetzt, sodass mit dem Maschinensatz 9 am 23. April 1985 der Bau abgeschlossen werden konnte.
Im Zuge des Kraftwerksbaus fanden auch umfangreiche Auschutz-Begleitprogramme statt, um das größte zusammenhängende Auwaldgebiet Mitteleuropas zu sichern. Nachdem das Flussbett der Donau seit der Regulierung vor mehr als 100 Jahren sich durch die höhere Fließgeschwindigkeit immer weiter eingetieft hatte, war die angrenzende Au von Austrocknung und Versteppung bedroht. Durch den Aufstau des Kraftwerks und die Errichtung des 42 km langen Gießgangs in den Nordauen konnte sich das Gebiet weitgehend erholen. Ebenfalls durch den Kraftwerksbau mussten Rückstaudämme als Hochwasserschutz an beiden Stromufern bis zurück nach Tulln errichtet sowie die Eisenbahn- und Straßenbrücke über die Donau bei Tulln gehoben werden.
In den Jahren 1988 bis 1989 erfolgte westlich des Betriebsgebäudes der Zubau eines Informationszentrums, bestehend aus einem Mehrzweckraum und einem Vortragssaal. Dieser wurde in der Vorbereitungsphase des Kraftwerks Freudenau als Ausstellungsraum für das Projekt verwendet.
Greifenstein stellt geografisch das letzte Donaukraftwerk vor der Bundeshauptstadt Wien und in der Ausbaureihenfolge das vorletzte Donaukraftwerk in Österreich dar.