Entre 1963 y 1965, Ian Anderson había formado, en la escuela de arte donde estudiaba, una banda llamada The Blades. En ella tocaban amigos suyos, como Barriemore Barlow (batería), John Evan (teclados), Jeffrey Hammond Hammond (bajo) y Michael Stephens (guitarra). De todas maneras, este grupo no dejaba de ser una banda escolar.
Una vez abandona la idea de convertirse en pintor, marcha a Londres junto a Barlow, Hammond y Evan. Allí formaran The John Evan Band, grupo con el que tocarán por los bares locales versiones de James Brown.
En 1966 la banda se ampliará hasta los siete miembros y pasará a llamarse John Evan's Smash. Glenn Cornick había sustituido a Hammond en el bajo. Pero en noviembre de 1967, cinco de los siete miembros abandonan el grupo y vuelven a sus respectivos hogares. Sólo quedan Anderson y Cornick, así que deciden trasladarse a Luton, ciudad próxima a Londres.
A comienzos de 1968 Chris Wright (mánager de The John Evan Band) y Terry Ellis (mánager de Ten Years After) ayudan a reformar la banda con la llegada de Mick Abrahams y un amigo suyo, Clive Bunker, que tocaban en McGregor's Engine.
Esta será la primera formación de Jethro Tull, que oficialmente se funda en febrero de 1968: Ian Anderson (flauta y voz), Mick Abrahams (guitarra y voz), Glenn Cornick (bajo) y Clive Bunker (batería).