Joris Mathijsen speelde grotendeels zijn hele jeug bij Willem II, hier maakt hij op 27 februari 1999 zijn debuut in het eerste. Na zes seizoenen bij de club uit Tilburg maakt hij samen met zijn trainer Co Adriaanse de overstap naar AZ.Hier brak hij echt door en kwam in de belangstelling van vele clubs. Uiteindelijk vertrok hij dan ook naar Hamburger SV. In 2004 maakte Mathijsen ook zijn debuut, onder Marco van Basten.

In 2005 kreeg Joris Mathijsen te maken met een tegenslag. Hij scheurde zijn kniepees tijdens een thuiswedstrijd tegen Villareal CF. Dit gebeurde in april en hij kwam dat seizoen ook niet meer in actie. In oktober 2005 maakte hij zijn rentree en hij werd direct weer opgenomen in de selectie van Oranje. Dit had hij volgens bondscoach Marco van Basten te danken aan eerdere optredens.