Nad niektórymi utworami producent Epworth pracował w swoim londyńskim studiu, natomiast Welch nagrywała ścieżki wokalne w dni wolne od koncertowania w różnych studiach w Stanach Zjednoczonych. Ostatnia sesja nagraniowa odbyła się w lipcu w studiu Epwortha, który napisał teksty do siedmiu utworów, które znalazły się na albumie Ceremonials. Oprócz niego kilka brytyjskich artystów stworzyło teksty piosenek, w tym gronie byli Summers, Kid Harpoon, James Ford oraz Eg White.
12 czerwca 2011 Florence and the Machine podczas swojej pierwszej trasy koncertowej w Berkeley premierowo zaprezentowali utwór „What the Water Gave Me”, który pojawił się potem na liście utworów wykonywanych na trasie koncertowej Lungs Tour. 23 sierpnia utwór wydany został przez wytwórnię Island Records jako pierwszy singel z drugiego albumu. 14 września w brytyjskim radiu XFM swoją premierę radiową miał następny singel, zatytułowany „Shake It Out”. Okładka singla została sfotografowana przez Karla Lagerfelda. Utwór w szóstym tygodniu od jego wydania dotarł do drugiego miejsca na liście Irish Singles Chart.