Dopo aver raggiunto il successo in Svezia con un gruppo folk a metà anni '60, ha iniziato a collaborare con Benny Andersson, con cui ha formato il leggendario gruppo degli ABBA, insieme anche ad Agnetha Fältskog e Anni-Frid Lyngstad.
Anche durante gli anni degli ABBA, era nata l'idea di creare un musical e nel 1981, Ulvaeus e Andersson incontrarono Tim Rice con cui scrissero Chess, che debuttò a Londra nel 1986. Nel 1995, Ulvaeus e Andersson presentarono un nuovo musical chiamato Kristina från Duvemåla, che fu rappresentato per tre anni consecutivi in Svezia. Nel febbraio del 2002, la versione svedese di Chess è andata in scena a Stoccolma.