Urodzony w wiosce w głębi Jawy w styczniu 1916 roku Sudirman uczył się w holenderskiej szkole dla tubylców w Purwokerto, potem zaś, jako pobożny muzułmanin, w szkole kształcenia nauczycieli organizacji Muhammadiyah w Sukarcie. Choć przerwał naukę, mimo wszystko został w 1935 nauczycielem (potem zaś dyrektorem szkoły) w miejscowości Cilacap i pracował w tym zawodzie aż do 1942, gdy rozpoczęła się japońska okupacja wysp. Zgłosił się jako ochotnik na szkolenie dowódców batalionów w PETA (Pembela Tanah Air), „defensywnej” formacji zbrojnej stworzonej z Japończyków. W 1944 roku objął dowództwo nad batalionem stacjonującym w Banyumas i wykazał się lojalnością, tłumiąc bunt żołnierzy. Gdy porażka Japonii stała się w 1945 roku nieunikniona, Sukarno i Hatta ogłosili w sierpniu niepodległość Indonezji i sformowali w październiku złożoną głównie z dawnych jednostek PETA Tentara Keselamatan Rakyat (TKR, Ludową Armię Bezpieczeństwa).

Choć wiele jednostek PETA zostało przymusowo rozwiązanych przez Japończyków, Sudirman utrzymał swój pułk z Banyumas w całości, a nawet przekonał wycofujące się wojska okupanta, by zostawiły mu swoją broń. Dostał jej tak wiele, że przekazał ją innym pobliskim grupom na Jawie, które w zamian mu się podporządkowały. Jego wojska były najlepiej uzbrojoną i zorganizowaną formacją w Indonezji po II wojnie światowej. Sudirman z kolei podporządkował się Sukarno.

W listopadzie 1945 roku Sudirman wygrał wybory na dowódcę wojsk nowego kraju. Czekając na objęcie stanowiska, przeprowadził w grudniu „skoordynowany atak” na holenderskie i brytyjskie wojska w Ambarawie, wypierając je aż do Semarangu, który Brytyjczycy wkrótce opuścili. Przez kolejnych 5 lat nękany gruźlicą prowadził walkę partyzancką z Holendrami, we wspaniałym stylu broniąc Yogyakarty, która była wówczas siedzibą Republiki Indonezji. Zmarł w Magelangu w styczniu 1950 roku, raptem kilka miesięcy przed formalnym przekazaniem przez Holendrów władzy nowej republice.