Khalid Boulahrouz maakte zijn debuut in het betaald voetbal in het seizoen 2001-2002, waar hij één wedstrijd speelde voor RKC. De seizoenen erna was hij basisspeler en speelde zich zo in de kijker van de Hamburger Sport Verein, ofwel HSV, waar hij later gezelschap kreeg van Rafael van der Vaart en Nigel de Jong.

Zijn bijnaam is opmerkelijk, tijdens de presentatie van HSV werd Khalid gevraagd wat voor type speler hij was, waarop hij probeerde uit te leggen dat hij zijn tegenstander wil ‘opeten’. De verslaggever van Bild begreep de overdrachtelijke manier van spreken niet, waarop de volgende dag in de Duitse krant stond dat ‘De Kannibaal’ een contract had getekend bij HSV.