Baradar kemudian membantu mantan komandannya menemukan Taliban pada tahun 1994 dan mendirikan pemerintahan sebelumnya atas Afghanistan. Omar bersembunyi setelah invasi AS dan dilaporkan meninggal karena TBC pada 2013. Baradar menikah dengan saudara perempuan Omar, kata seorang pejabat Afghanistan sebelumnya kepada BBC.

Selama pemerintahan Taliban 1996-2001, Baradar dikatakan telah menjabat sebagai gubernur dua provinsi, seorang komandan militer dan wakil menteri pertahanan. Setelah pasukan pimpinan AS menginvasi Afghanistan dan menggulingkan Taliban setelah serangan 9/11, ia menjadi ujung tombak pemberontakan sebagai komandan sehari-hari dan ahli strategi militer.

Sebelumnya orang nomor dua Taliban, ia melarikan diri ke Pakistan dan mengambil peran yang lebih menonjol karena kesehatan Omar menurun. Baradar mengatakan kepada Newsweek pada tahun 2009: "Sejarah Afghanistan menunjukkan bahwa orang Afghanistan tidak pernah lelah berjuang sampai mereka membebaskan negara mereka. Kami akan melanjutkan jihad kami sampai pengusiran musuh kami dari tanah kami."

Ketika para pemimpin senior dibunuh atau ditangkap, Baradar menjadi kepala organisasi militan Quetta Shura Taliban dan pemimpin de facto kelompok teroris tersebut.

zxc2