Il entre chez Michelin en 1978 pour diriger l’usine du Puy (France). Il dirige ensuite les activités de Michelin Amérique du Sud basées au Brésil. En 1989, il devient Président-Directeur Général de Michelin Amérique du Nord. Il entre chez Renault en 1996 comme Directeur Général Adjoint. Outre le contrôle des activités de Renault dans le Mercosur, il est alors responsable de la recherche, de l’ingénierie et du développement automobile, de la production, des activités mécaniques et des achats. En 1999, il rejoint Nissan Motor en tant que Directeur Général. Il est nommé Président-Directeur Général en 2001.

Président de Renault depuis mai 2005, il demeure Président-Directeur Général de Nissan Motor. Carlos Ghosn est administrateur d’AvtoVAZ. Il est nommé Président-Directeur Général de Renault le 6 mai 2009.

Carlos Ghosn est membre du Conseil consultatif international de l'Université Tsinghua, Pékin (Chine). Il est également membre du Conseil consultatif international pour l'Université américaine de Beyrouth, au Liban et membre du Conseil Stratégique de l'Université Saint Joseph, Beyrouth (Liban).
 
Il a par ailleurs reçu le prix Asia Business Leader 2011 de CNBC.