Los primeros pasos de Ballack en el profesionalismo llegaron en el Chemnitzer, club con el que debutó en la Bundesliga 2, en su temporada como novato el club alemán descendió de categoría. Al año siguiente, Ballack realizó una gran campaña, aunque no logró el ascenso de 3ª, sin embargo destacó tanto que le llevó a él a la Bundesliga, dónde el Kaiserslautern que entrenaba Otto Rehhagel (seleccionador de Grecia en el 2004 cuando se proclamó campeona de la Eurocopa de Portugal) decidió ficharle.
En el Kaiserslautern en su primer año se proclamó campeón de liga, aunque no pasó de ser un jugador que habitualmente salía desde el banquillo. En la 98-99, su segunda temporada con los “diablos rojos” pasó a ser protagonista tomando el mando del centro del campo, en ese año quedó 5º en liga y llegó hasta los Cuartos de final de la Champions League, dónde el Bayern Múnich les eliminó (equipo que acabaría perdiendo la final en el Camp Nou frente al Manchester United).
No pasó desapercibido su eclosión, lo que le llevó a que el Bayer Leverkusen pagara casi 5 millones por sus servicios en verano del 1999. En su primer año en el equipo de las aspirinas, el Bayer perdió la liga en la última jornada, con un autogol de Ballack y otro del centrocampista Oberleitner que unido a la victoria del Bayern Múnich por 3-1 frente al Bremen le dio el campeonato al conjunto muniqués.
En la campaña 2001-2002 la mala suerte llegó hasta límites insospechados, con su empate contra el Hamburgo en la jornada 31 el campeonato parecía hecho, sacaban 5 puntos al Borussia a falta de 9 por disputarse, pero los de Leverkusen perdieron en casa por 1-2 frente a Bremen y 1-0 en su visita a Núremberg, no pincharon los de Dortmund que vencieron al Colonia y Hamburgo, lo que permitió al conjunto amarillo llegar líder a la última jornada, donde vencieron al Bremen dejando estéril la victoria del Bayer frente al Hertha Berlín. Además no quedó ahí la mala temporada, ya que acabaron perdiendo la final de la Copa de Alemania por 4-2 frente al Schalke 04 y la final de la Champions League por 2-1 contra el Real Madrid, dónde Ballack fue testigo de lujo a la maravilla de Zidane.
Entonces llegó la gran oportunidad de Ballack, el Bayern Múnich le fichó en el verano de 2002, misma estación donde el alemán jugaba el Mundial de Corea y Japón, el cuadro bávaro perdió la final contra Brasil por 2-0, pero Ballack ya la perdió 3 días antes con la amarilla que sufrió frente a Corea, lo que no le permitió estar ante la canarinha, minutos antes había sido el héroe al haber marcado gol a los asiáticos acercando el paso a Alemania a la final.

En su primera temporada como “blue” se proclamó campeón de la FA Cup y de la Copa de la Liga. Dos nuevas FA Cup, una Community Shield y otra Premier League en los siguientes tres años.
Aunque en este espacio (en concreto en 2008) sufrió dos de sus grandes mazazos perdiendo su 2ª final de Champions League, en esta ocasión en penaltis y contra el Manchester United y por un inoportuno resbalón de Terry, y su 1ª final de la Eurocopa contra España.

Sin duda, Michael Ballack, ha sido uno de los jugadores con más fama de gafe que ha habido en el fútbol en las últimas dos décadas, el alemán desafió la superstición al usar el 13, un dorsal que muchos jugadores han intentado evitar. Pese a su mala pata en los torneos internacionales, Ballack será recordado como uno de los mejores 13 de la historia junto a Rudi Voeller, Gerd Müller, Loco Abreu, Juan Mata, Zagallo o Alessandro Nesta.