Polytechnicien, Gérard Rousseau est diplômé de l'Ecole nationale supérieure de l'aéronautique et de l'espace (Isae-Supaero). Il est également titulaire d'un Executive MBA de la Haute école de commerce (HEC). Il entame sa carrière en 1989 au sein de la délégation générale de l'armement.
Dix ans plus tard, il est nommé directeur général France puis directeur général du groupe Orsyp, éditeur de logiciels. En 2002, il rejoint le comité de direction du groupe d'ingénierie Setec, où il est en charge du secteur énergie/industrie. Gérard Rousseau cumule alors les fonctions de PDG de Planitec (conseil et assistance en projets industriels), président de Setec IS (télécom et réseaux) et président de Planitec BTP.