Puncak kepemimpinan-nya terlihat saat ia memegang jabatan sebagai Kapolda Banten dari tahun 2020 hingga 2023. Selama masa kepemimpinan-nya, ia mengedepankan pendekatan humanis dan berhasil menekan angka kejahatan secara signifikan di wilayah tersebut.
Pada 11 Desember 2023, Rudy Heriyanto resmi dilantik sebagai Sekretaris Jenderal di Kementerian Kelautan dan Perikanan Republik Indonesia. Ia kini memimpin jalannya birokrasi teknis di kementerian tersebut.
Namanya kembali menjadi sorotan publik setelah disebut-sebut sebagai salah satu calon kuat untuk menduduki posisi tertinggi di kepolisian, menggantikan Jenderal Listyo Sigit Prabowo sebagai Kapolri.
