Haacke se narodil v Allentown v Pensylvánii 15. listopadu 1936. Nejprve studoval kresbu a malbu na Cooper Union v New Yorku, kde byl studentem v letech 1955 až 1957. Ve studiích umění pokračoval na Tyler School of Art na Temple University ve Philadelphii v letech 1957 až 1959, kde se specializoval na grafický design. Po vysoké škole Haacke narukoval do armády Spojených států, kde v letech 1959 až 1961 sloužil jako grafický ilustrátor.
Po jeho službě se Haacke vrátil do New Yorku a začal pracovat jako komerční návrhář na volné noze. V roce 1962 měl svou první samostatnou výstavu v Tanager Gallery v New Yorku. Haacke byl raným konceptuálním umělcem a v roce 1963 zahájil sérii konceptuálních sochařských instalací, které zahrnovaly každodenní předměty a manipulovaly s nimi do nových kontextů. Kus Condensation Cube z let 1965–1966 sestával ze skleněné krabice s blokem ledu zavěšeným uprostřed. Haackeho koncept byl takový, že krychle pomalu kondenzuje a vytváří vodu, která by kolem základny tvořila louže.
Haacke rozšířil své instalace o větší rozmanitost nalezených a vyrobených materiálů, stejně jako fotografickou a video dokumentaci jeho pracovních procesů. V roce 1969 spolupracoval s Hansem Haackem na skladbě Shapolsky et al. Manhattan Real Estate Holdings, sociální systém v reálném čase, od 1. května 1971, instalace, která používala výpisy nemovitostí z New York Times ke zkoumání vzorců vlastnictví nemovitostí na Manhattanu. Dílo bylo instalováno v Židovském muzeu v New Yorku, kde bylo kontroverzní kvůli své implicitní kritice koncentrace vlastnictví nemovitostí mezi bohatými jednotlivci a institucemi.
Na počátku 70. let se Haackeho dílo stalo stále více politickým. Vytvořil několik děl, která zkoumala vztahy mezi uměním, uměleckým světem a společností, včetně dílu MoMA Poll z roku 1971, ve kterém zpovídal návštěvníky Muzea moderního umění (MoMA) v New Yorku o jejich názorech na muzeum a jeho sbírku. V roce 1972 vytvořil Haacke kus Sol LeWitt:Sentences on Conceptual Art, který se skládal ze série textových panelů, které reprodukovaly rozhovor, který Haacke vedl s umělcem Sol LeWittem.
Haackeho práce je i nadále politická a nadále zkoumá otázky sociální a politické moci, konzumerismu a ničení životního prostředí. V posledních letech vytvořil díla, která zkoumají vztahy mezi uměním, vědou a technikou a také využití sledovacích technologií ve společnosti.
Haackeho dílo bylo vystaveno v mnoha galeriích a muzeích po celém světě a za svou práci získal řadu ocenění a vyznamenání, včetně Guggenheimova stipendia v roce 1972, grantu National Endowment for the Arts v roce 1976 a MacArthur Fellowship v roce 1985. Je považován za jednoho z nejvýznamnějších konceptuálních umělců své generace.