Polytechnicien, Olivier Gupta est également diplômé de l'Ecole nationale des Ponts et chaussées. Entré au sein de l'ASN en 1999, il a occupé différentes fonctions, notamment au sein de la sous-direction des réacteurs de puissance. En 2007, il est nommé directeur général adjoint.
En parallèle, Olivier Gupta préside le groupe de travail européen sur l'harmonisation de la sûreté des réacteurs nucléaires (RHWG de WENRA) jusqu'en 2011. A cette date, il rejoint Météo France au poste de directeur général adjoint et assure l'intérim des fonctions de président-directeur général de septembre à décembre 2013.