スディルマンは1916年、中部ジャワ州の村に生まれる。プルウォケルトのオランダ人学校で教育を受けた彼は、敬虔なイスラム教徒だったことから、スラカルタにあったムハマディヤ (イスラム教の社会団体) の教員養成学校でも学ぶ。教職課程には落伍したものの、1935年にチラチャプで教師になった (後に校長も務める)。1942年に日本軍がジャワ島を占領するが、その少し後まで教壇に立ちつづけた。日本軍によりPETAこと郷土防衛義勇軍が設立されると、自ら訓練を志願してその大隊長となる。1944年、バニュマスを拠点とする大隊の指揮を執り、仲間の兵士による反逆を鎮圧。その職務を果たした。1945年に日本の敗戦が避けられなくなると、スカルノとモハマッド・ハッタは8月にインドネシアの独立を宣言。10月にはTKR (人民安全保障軍) を創設した。この軍は主にPETAの兵士で構成されていた。

日本軍はPETAの部隊の多くを強制的に解散させていた。しかしスディルマンはバニュマスを拠点とする連隊を維持しており、撤退していく日本軍に対して武器を引き渡すよう求めた。その結果、大量の武器が集まったことから、スディルマンは近くのジャワ人グループに武器を提供し、彼らの忠誠を得ることに成功する。第二次世界大戦の余波のさなかにあったインドネシアにおいて、スディルマンの部隊は最も装備が充実し、最も統制がとれていた。そのスディルマンはスカルノに忠誠を誓っていた。

1945年11月、新国家の軍のトップを決める選挙が行われ、スディルマンが最高司令官に選出された。正式な承認はまだであったが、彼は12月、アンバラワにいたイギリス軍とオランダ軍に「調整攻撃」を仕掛け、これをスマランまで敗走させる。イギリス軍はほどなくして撤退を決める。それから5年にわたり、スディルマンは結核に苦しみながらもオランダに対するゲリラ戦を指揮。ジョグジャカルタとインドネシア共和国本部も見事に守り抜いた。1950年1月、スディルマンはマゲランで息を引きとる。オランダがインドネシア共和国の主権を認めた、わずか1ヶ月後のことだった。