Costello se narodil v Patersonu, New Jersey, italským přistěhovalcům. Svou kariéru v showbyznysu začal jako teenager, vystupoval ve vaudeville a burlesce. V roce 1936 se setkal s Budem Abbottem a ti dva vytvořili komediální tým. Rychle se stali jedním z nejpopulárnějších komediálních herců na světě, vystupovali v nočních klubech, v rádiu a ve filmech.
Komedii Abbotta a Costella charakterizovaly jejich grotesky a Costellův vysoký hlas a přehnaná mimika. Společně se objevili v celkem 36 filmech, včetně „Jedné noci v tropech“ (1940), „Buck Privates“ (1941) a „Abbott a Costello Meet Frankenstein“ (1948).
Costelloovo zdraví se začalo zhoršovat na počátku 50. let a podstoupil několik operací srdce. Zemřel na infarkt v roce 1959 ve věku 52 let.
Navzdory své předčasné smrti je Costello považován za jednoho z nejvlivnějších komiků 20. století. Jeho práce s Budem Abbottem pomohla definovat žánr komedie a inspirovala nespočet dalších komiků.