Peter Svensson et Magnus Sveningsson, tous deux adeptes de heavy metal, forment le groupe en octobre 1992 à Jönköping en Suède, avec le batteur Bengt Lagerberg, le pianiste Lars-Olof Johansson et la chanteuse Nina Persson. Alors qu'ils partagent le même appartement, The Cardigans enregistrent une démo qui parvient aux oreilles du producteur Tore Johansson. Celui-ci décide alors de les inviter pour une séance d'enregistrement dans un studio de Malmö. En 1994 sort Emmerdale, leur premier album, en Suède et au Japon (cet album bénéficiera d'une re-sortie internationales en 1997). L'album inclut le titre Rise & Shine qui devient vite un tube sur les radios suédoises (il fut élu meilleure chanson de l'année 1994 lors d'un sondage publié dans le magazine Slitz).
Le groupe passe le reste de l'année 1994 en tournée en Europe et enregistre leur nouvel album Life, qui sort dans le monde entier en 1995. Life devient un succès planétaire, se vendant à plus d'un million d'exemplaires et devenant disque de platine au Japon. En 1996 Life sort sous le label Minty Fresh aux États-Unis, mais cette édition est essentiellement une compilation des précédents albums Emmerdale et Life.
Après le succès de l'album Life, The Cardigans signent avec le label Mercury Records qui assure la sortie mondiale de First Band on the Moon en 1996. Lovefool devient un tube à travers le monde, tout particulièrement aux États-Unis et au Japon, où il se voit décerner un album de platine après seulement 3 semaines.
Gran Turismo, sorti en 1998, aux couleurs plus sombres, est suivi par un long break durant lequel les membres du groupe développent des projets solo. La même année, ils sortent une compilation de faces B peu connues, The Other Side of the Moon, uniquement au Japon, ce qui fait que cet album est plutôt rare en dehors du Japon.
Durant ce break, Nina Persson sort un album solo, A Camp, et les Cardigans enregistrent un duo avec Tom Jones, Burning Down the House, qui apparaît sur l'album Reload. Peter Svensson travaille au projet Paus avec l'aide de Joakim Berg du groupe Kent, et Magnus Sveningsson enregistre sous le pseudo de Righteous Boy. The Cardigans retournent en studio en 2003 avec Long Gone Before Daylight, un album plus calme et introspectif, se tournant vers une approche plus country de la musique. c'est un album profond dont les cardigans estiment qu'il est leur meilleur album, car le plus personnel, et cela s'entend (en effet pour cet album les cardigans n'ont pas fait appel à leur producteur habituel Tore Johanson et n'ont donc pas été influencé par lui). Fait de ballades ou de rock énergique, éclectique, il met en avant la finesse et les qualités de composition du groupe au travers de morceaux tels que Communication, And then you kissed me, Couldn't care less, For what it worth, et 03.45, no sleep.
Leur sixième album, Super Extra Gravity, sorti en octobre 2005, est sans doute leur album le plus aboutit puisqu'il reprend une bonne part des gimmicks du groupe, et fait évoluer leur musique vers un rock à la fois très personnel et unique né de multiples sources parfaitement assimilées et refondues par Peter Svensson. C'est un album très homogène au niveau du son où le travail de Tore Johanson marque l'idée de ce que doit-être le rock. Le passage d'un son clean et plutôt country a cet opus résolument plus noir et plus brut, où l'on retrouve le talent de Bengt Lagerberg à la batterie un peu en retrait dans leur avant dernier album.
Plusieurs choses impressionnent dans cet album par rapport à Long gone before daylight, c'est d'une part, l'unité musicale que dégage cet album. The Cardigans semblent avoir retrouvé cet esprit de groupe que le dernier album, après 5 années d'interruptions et de projets solo, n'avait pas totalement réussi à produire. Peter Svensson, guitariste et compositeur du groupe, a voulu que chaque morceau ait sa personnalité, mais que ces derniers forment toutefois un ensemble stylistique homogène, et le résultat est à la hauteur de son talent et de celle du groupe. Nina Persson, la chanteuse des cardigans, s'affirme de plus en plus comme une vraie song-writer, et sa très belle voix, dont Peter sait parfaitement se servir, complète à merveille ses compositions en leur apportant une plus grande profondeur encore.
