Provinent d'una família de la baixa noblesa (Edler), Robert Musil sent encara un nen va entrar a l'acadèmia militar, experiència que li va servir per escriure la seva primera novel.la, Les tribulacions de l'estudiant Törless. Va abandonar però l'acadèmia i es va llicenciar com a enginyer.
La seva curiositat el va portar a estendre els seus estudis a la psicologia, la lògica i la psicologia experimental a la Universitat de Berlín. Va ensenyar enginyeria mentre escrivia la seva primera novel.la, Les tribulacions del jove Törless (1906), descripció de la vida d'uns adolescents en un col.legi militar. L'èxit d'aquesta obra el va animar a deixar l'ensenyament i compaginar la seva feina com a bibliotecari i editor de Die neue Rundschau amb l'escriptura de dues novel curtes sobre les relacions sexuals, Unions (1911)....
Musil va servir a l'exèrcit imperial durant la Primera Guerra Mundial i després va ser funcionari civil en la nova República d'Àustria, entre 1919 i 1922, abans de dedicar-se completament a escriure. Va publicar un llibre de contes, Tres dones, el 1924. Excepte dos anys a Berlín (1931-1933), va viure a Viena fins a l'annexió d'Àustria a l'Alemanya nazi el 1938, quan es va exiliar a Suïssa. Va morir a Ginebra el 1942.
En aquest lapse la seva tasca fonamental va ser escriure una llarga (dos volums), panoràmica i inacabada novel, L'home sense atributs (1930-1943), que examina l'existència sense objectius del seu personatge principal, Ulrich, un antiheroi, sobre el fons de una minuciosa recreació de la societat austríaca anterior al 1914 en plena crisi. L'home sense atributs constitueix una de les obres narratives més ambicioses del segle XX i va consagrar pòstumament al seu autor, com un escriptor que en les seves obres combinar d'una manera excepcional la ironia amb la utopia, per analitzar la gran crisi espiritual de la seva època i la descomposició de l'Imperi austro-hongarès.
Després de la seva mort, ia instàncies de la seva vídua Martha Marcovaldi i de Carla Bodoni, un selecte grup d'escriptors entre els quals es trobaven Thomas Mann, Robert Walser o Hermann Broch va ser convidat a finalitzar L'home sense atributs. Aquest grup es coneix com El Clan Ulrich.