La stessa Goulding ha spiegato che il disco nasce dall'idea che sapere troppo possa diventare un peso e che, paradossalmente, ci sia una certa libertà nel non sapere. Ha descritto il progetto come una sorta di diario musicale relativo a un momento di svolta della sua vita

In I Know Too Much, invece, entrano il divorzio, l'insicurezza, l'autosabotaggio, la memoria, la perdita di fiducia e il tentativo di capire se stessi dopo una relazione finita