Formación de la banda y el lanzamiento de All we know is falling :3

La banda se comenzó a formar cuando Hayley se mudo a Tennessee en el 2004 donde conoció a Zac y Josh Farro mientras asistían a un colegio privado. Luego de haber llegado a Tennessee Hayley se inscribió en clases de canto. Pero antes de Paramore Hayley tenia una banda con Jeremy (el bajista) y unos amigos de ella la banda se llamo The Factory y hacían Covers, mientras que Zac y Josh practicaban después del colegio (suena muy triste xD). La formación de Paramore fue por Josh Farro (guitarra / coros), Zac Farro (batería), Jeremy Davis (bajo) y Hayley Williams (vocalista) en el 2004 y al tiempo entro Taylor York (guitarra). Paramore se presentó en lugares fuera del área metropolitana de Nashville, incluyendo los festivales de conciertos Purple Door y Warped Tour.

La banda viajo a Florida donde Jeremy dejo la banda durante 5 meses por problemas personales pero luego de 5 meses volvió. Los restantes cuatro miembros de Paramore continuaron con la composición del álbum, cuyo nombre All we know is falling fue inspirado por Jeremy. La carátula del álbum refleja el dolor de la banda con respecto a la partida de este, a lo que que Hayley explica : "El sofá en la portada de All we know is falling con nadie allí, y la sombra que se va, es acerca de Jeremy y como a nosotros nos deja sentir que hay un espacio vacío." All we know is falling fue lanzado el 24 de julio de 2005, y alcanzó el número 30 en la Heatseekers Billboard Chart, pero no logró entrar en el US Billboard 200. El primer sencillo fue "Pressure", pero la canción no tuvo el éxito esperado. En julio "Emergency" fue lanzado como segundo sencillo. El tercer y último sencillo fue "All We Know", cuyo vídeo consiste en un conjunto de actuaciones en vivo y escenas tras bambalinas