Karier Zidane dimulai pada usia 14 tahun, anak imigran ini terlihat oleh seorang pencari bakat bernama Jean Varraud dan kemudian ditawari tempat di Akademi AS Cannes. Aslinya ia hanya bertahan di Cannes selama enam pekan saja, sebelum akhirnya bakat bagusnya membuat Zidane mampu mengamankan kontrak pertamanya selama empat musim.

Zidane kemudian bermain di level professional pertama pada usia 17 tahun pada tahun 1991. Ia kemudian mencetak gol pertamanya pada tanggal 8 Februari 1991, yang kemudian membuatnya mendapatkan hadiah mobil dari presiden klub. Zidane kemudian berhasil mengantar Cannes masuk kompetisi Piala UEFA di akhir musim 1991—92.
Zizou kemudian ditransfer ke Girondins de Bordeaux pada musim 1992-93, dan ikut mengantar klub tersebut menjuarai Piala Intertoto musim 1995 dan runner-up Piala UEFA musim 1995-96. Rekannya di Bordeaux adalah Bixente Lizarazu dan Christophe Dugarry, yang kemudian menjadi skuat kuat di timnas Prancis pada Piala Dunia 1998.