Jérôme Goellner est ingénieur des mines, diplômé de l'école Polytechnique et de l'Ecole nationale supérieure des techniques avancées (ENSTA). Il a entamé sa carrière, en 1984, en tant que chef de section technique au service de la métrologie du ministère de l'Industrie. Six ans plus tard, il est nommé chef du service régional de l'environnement industriel de la Direction régionale de l'industrie, de la recherche et de l'environnement (Drire) Rhône-Alpes. En 1994, il devient chef de département gaz et appareils à pression à la sous-direction de la sécurité industrielle du ministère de l'Industrie.
A partir de 1999, il est promu directeur adjoint de la Direction de la sûreté des installations nucléaires (DSIN), devenue l'Autorité de sûreté nucléaire (ASN). Deux ans plus tard, il dirige la Drire Lorraine. En 2008, il est nommé chef du service des risques technologiques à la Direction générale de la prévention des risques (DGPR) du ministère de l'Environnement.