Maju sebagai calon Bupati Belitung Timur di tahun 2005, Ahok mempertahankan cara kampanyenya, yaitu dengan mengajar dan melayani langsung rakyat dengan memberikan nomor telfon genggamnya yang juga adalah nomor yang dipakai untuk berkomunikasi dengan keluarganya.
Dengan cara ini ia mampu mengerti dan merasakan langsung situasi dan kebutuhan rakyat.
Dengan cara kampanye yang tidak “tradisional” ini, yaitu tanpa politik uang, ia secara mengejutkan berhasil mengantongi suara 37,13 persen dan menjadi Bupati Belitung Timur periode 2005-2010.
Padahal Belitung Timur dikenal sebagai daerah basis Masyumi, yang juga adalah kampung dari Yusril Ihza Mahendra.
Kesuksesan ini terdengar ke seluruh Bangka Belitung dan mulailah muncul suara-suara untuk mendorong Ahok maju sebagai Gubernur di tahun 2007.
Dalam pemilu legislatif 2009 ia maju sebagai caleg dari Golkar. Meski awalnya ditempatkan pada nomor urut keempat dalam daftar caleg (padahal di Babel hanya tersedia 3 kursi), ia berhasil mendapatkan suara terbanyak dan memperoleh kursi DPR berkat perubahan sistem pembagian kursi dari nomor urut menjadi suara terbanyak.
Selama di DPR, ia duduk di komisi II.
Di tahun 2006, Ahok dinobatkan oleh Majalah TEMPO sebagai salah satu dari 10 tokoh yang mengubah Indonesia.
Di tahun 2007 ia dinobatkan sebagai Tokoh Anti Korupsi dari penyelenggara negara oleh Gerakan Tiga Pilar Kemitraan yang terdiri dari KADIN, Kementerian Pendayagunaan Aparatur Negara, dan Masyarakat Transparansi Indonesia.
Melihat kiprahnya, kita bisa mengatakan bahwa berpolitik ala Ahok adalah berpolitik atas dasar nilai pelayanan, ketulusan, kejujuran, dan pengorbanan; bukan politik instan yang sarat pencitraan.
Tahun 2012 nama Ahok kian mencuat karena dipilih Joko Widodo (Jokowi) sebagai calon wakil gubernur DKI Jakarta yang diusung PDI-P dan Gerindra, setelah melalui dua tahap Pemilukada, akhirnya pasangan Jokowi-Basuki ditetapkan sebagai pemenang dan dilantik sebagai Gubernur dan Wakil Gubernur DKI Jakarta periode 2012-2017 pada 15 Oktober 2012.
Pada 14 November 2014, Ahok diumumkan secara resmi menjadi Gubernur DKI Jakarta pengganti Joko Widodo yang terpilih sebagai Presiden RI ke-7, melalui rapat paripurna istimewa di Gedung DPRD DKI Jakarta. Ahok resmi dilantik sebagai Gubernur DKI Jakarta oleh Presiden Joko Widodo pada 19 November 2014 di Istana Negara setelah sebelumnya menjabat sebagai Pelaksana Tugas Gubernur sejak 16 Oktober hingga 19 November 2014.
Senin 25 November 2019, Ahok menerima Surat Keputusan (SK) pengangkatan sebagai Komisaris Utama (Persero) Pertamina.