Antoine Petit est agrégé de mathématiques et thésard en informatique. Après un début de carrière dans l'enseignement à l'université, il est nommé directeur adjoint de la recherche en 2001 au sein du ministère de la Recherche. Trois ans plus tard, il devient directeur scientifique du département Sciences et technologies de l'information et de la communication du CNRS. Il est ensuite nommé directeur inter-régional du Sud-Ouest.
En 2006, il est détaché à l'Institut national de recherche en informatique et en automatique (Inria). Il devient président-directeur général de l'Institut en 2014. Il préside l'Institut des hautes études pour la science et la technologie (IHEST) depuis 2017. Il est également membre du conseil national de l'industrie, du conseil scientifique de l'Office parlementaire des choix scientifiques et techniques (Opecst).