Patrick Balkany effectue son retour sur la scène politique de Levallois-Perret à l'occasion des élections municipales de 2001. Sans étiquette, il remporte le scrutin face au maire sortant soutenu par le RPR et l'UDF, la liste de la gauche plurielle, ainsi qu'une liste divers droite. Le préfet des Hauts-de-Seine saisit alors le tribunal administratif de Paris pour contester son élection au conseil municipal de Levallois-Perret, ce dernier étant selon lui inéligible.

En juin 2002, lors des élections législatives, il retrouve son siège de député de la 5e circonscription des Hauts-de-Seine, en s'imposant de justesse dans une triangulaire, face au candidat socialiste et au sortant Olivier de Chazeaux. Il siège dès lors au groupe UMP, qui succède au RPR.

À la suite du recours préfectoral, le 29 juillet 2002, le Conseil d'État confirmant un jugement du tribunal administratif de Paris du 17 octobre 2001, considère que Patrick Balkany était inéligible au moment du scrutin et annule son élection à la mairie de Levallois-Perret. Le 22 septembre 2002, de nouveau éligible lors de l'élection municipale partielle qui suit, il est réélu maire de Levallois-Perret au premier tour avec 53,78 % des voix, améliorant ainsi son score de 2001.

Patrick Balkany en 2007.

Lors du premier tour des élections législatives de juin 2007, Patrick Balkany arrive en tête en réunissant 42,11 % dans sa circonscription. Il est élu au second avec 55,25 % des voix face à son adversaire socialiste Gilles Catoire, en obtenant plus de 66 % à Levallois-Perret. L'année suivante, il est réélu maire de sa ville, la liste qu'il conduisait l'ayant emporté au premier tour des municipales.

Un article du journal Le Monde, daté du 29 juin 2009, se fait l'écho d'un rapport de la chambre régionale des comptes d'Île-de-France du 6 avril 2009 dressant un bilan sévère de la gestion de Levallois-Perret. Le document évoque une hausse de la dette, une explosion des dépenses festives et des « anomalies » dans le contrôle des frais et dans la gestion du parc de voitures de fonction. En réaction, Isabelle Balkany conteste le bien-fondé de ces accusations, et s'étonne que seul le dernier mandat de son mari ait fait l'objet d'investigations de la part des magistrats financiers.

D'octobre 2010 à juin 2011, Patrick Balkany n’a assisté à aucune des 33 réunions du mercredi de la commission des affaires étrangères de l'Assemblée nationale, et écope d'une sanction financière (retenue sur les indemnités).

À l'occasion des élections législatives de 2012, il est réélu député au second tour, avec 51,4 % des suffrages exprimés, avec comme suppléant Rémi Muzeau.

Lors de la XIVe législature, il est un des députés qui sifflent, avec Lucien Degauchy, la ministre du Logement Cécile Duflot le 17 juillet 2012 à l'Assemblée nationale parce qu'elle porte une robe à fleurs. Cet incident sera décrit comme emblématique du sexisme dans le milieu politique français,.

En 2012, il est le maire de la commune la plus endettée de France avec une dette de 11 484 € par habitant, ce qui constitue une augmentation de 306 % par rapport à l’année 2000.

À l'issue des élections municipales de 2014, il est réélu maire de Levallois-Perret pour un cinquième mandat, la liste qu'il conduisait l’ayant emporté au premier tour, avec 51,6 % des suffrages exprimés.

Il soutient Nicolas Sarkozy pour la primaire présidentielle des Républicains de 2016.

En mars 2016, Patrick Balkany est condamné pour avoir diffamé son adversaire politique Arnaud de Courson.

En juin 2016, en dépit de ses multiples mises en examen le concernant, il est proposé à l'investiture (de manière automatique, comme tous les députés sortants) par la commission nationale d’investiture des Républicains pour les élections législatives de 2017, ce qui provoque quelques remous dans son camp,. Après plusieurs jours de polémique, il renonce finalement à l'investiture, invoquant la mise en conformité avec la loi sur le cumul des mandats en 2017 et son souhait de rester maire de Levallois-Perret. Cependant, la personne qu'il désigne pour lui succéder à la députation, Agnès Pottier-Dumas, conseillère municipale de Levallois-Perret, serait inéligible car membre de cabinet d’une présidence de région, ce qu'elle confirme quelques jours plus tard, renonçant à l'investiture. Patrick Balkany soutient alors la candidature de son adjoint François-Xavier Bieuville, mais c'est Arnaud de Courson qui est finalement désigné en février 2017 par la commission d'investiture du parti. En réaction, il fait retirer les affiches de François Fillon de la commune.

Lors des élections législatives de 2017, après avoir soutenu François-Xavier Bieuville, qui est éliminé au premier tour, Patrick Balkany soutient Céline Calvez, la candidate du parti En marche contre Arnaud de Courson, investi par son parti Les Républicains dans sa circonscription. À ce sujet, il indique sur l'antenne de BFM Paris : « J'étais ravi de lui dire que je préfère la voir elle à l'Assemblée que voir mon opposant depuis 25 ans, qui s'oppose à tout ce qu'on fait à Levallois, élu. Monsieur de Courson, je crois que politiquement, il est mort depuis longtemps ». Céline Calvez est élue au second tour. En septembre 2018, il fait voter par son conseil municipal de Levallois-Perret une hausse de 56 % de son indemnité de maire, qui passe à 4 257 euros mensuels, ce qui reste dans les plafonds autorisés concernant sa commune, mais à son niveau le plus haut.

Le 15 septembre 2019, à la suite de sa condamnation à de la prison ferme, c'est son épouse, Isabelle, qui assure l'intérim comme maire de Levallois-Perret. Alors que Patrick Balkany entend toujours briguer un septième mandat aux élections municipales de 2020, le député LR Éric Woerth l'appelle à renoncer, tandis que le couple reçoit le soutien d'une partie de ses administrés lors d'un rassemblement,. Il est hospitalisé à partir du 12 décembre à l'hôpital Cochin.

Malgré son incarcération et la division de son équipe municipale, un sondage réalisé en novembre 2019 place Patrick Balkany nettement en tête du premier tour ; sa femme est également donnée première si elle venait à se présenter à sa place. Le couple renonce finalement à briguer un nouveau mandat municipal et apporte son soutien à la liste conduite par Agnès Pottier-Dumas et David-Xavier Weiss,. Le 6 mars 2020, après sa condamnation en appel à dix ans d'inéligibilité et à quelques jours des élections, le couple est démis d’office de ses mandats municipaux par un arrêté du préfet des Hauts-de-Seine.

Il retire en avril son soutien à la liste de Agnès Pottier-Dumas, son ancienne directrice de cabinet. Selon Le Canard enchaîné, cette décision fait suite au refus de celle-ci de le recruter, ainsi que son épouse, dans une société d'économie mixte de la ville.
