Neix a Aquisgrà el 27 de març del 1886, fill de Jakob Mies (negociant de marbres) i Amalia Rohe. El 1913, amb la seva esposa Ada Bruhn es trasllada a Werder (als afores de Berlín), on s’instal·la. Allí neixen les seves filles Marianne i Waltrani, i més tard Dorotea, que canvia el nom pel de Georgia. Fins llavors, les seves relacions personals i professionals s’havien desenvolupat entre les famílies benestants. La guerra del 1914-1918 va capgirar aquestes relacions; Ludwig se separa de la seva família i entra en contacte, de la mà de Hans Richter, amb l’avantguarda del moment: Van Doesburg, Man Ray, Hilberseimer, Walter Bejamin i Raoul Hausmann, entre altres.

Des de la seva participació en l’exposició d’habitatges de Weissenhof, a Stuttgart, entre el 1925 i el 1927, manté una relació amb la dissenyadora i interiorista Lilly Reich que es prolonga fins al 1939. Col·laboren en la Glassraum (‘habitació de vidre’) de l’exposició de Stuttgart del 1927, així com en el Pavelló de Barcelona de l’any 1929, en la casa Tugendhat de Brno entre el 1928 i el 1930, i en la casa que van presentar a l’exposició de Berlín del 1931.

L’any 1930, l’alcalde de Dessau li proposa dirigir la Bauhaus, on succeirà Hannes Mayer, que l’havia dirigit des del 1928 en substitució del seu fundador Walter Gropius. L’ajuden en aquest període Lilly Reich i Hilberseimer. Posteriorment, la majoria nazi del Consell Municipal de Dessau sorgida de les eleccions del 1931 decideix tancar-la, la qual cosa fa que sigui traslladada a Berlín com a centre privat adscrit a Mies van der Rohe. Aquest negocia amb el ministre nazi Rosemberg i, finalment, el 1933 decideix tancar-la abans que cedir a les pressions ideològiques que li arribaven; també la falta de recursos hi va influir.

Mies s’instal·la als Estats Units el 1938, concretament a la ciutat de Chicago, on treballa a l’escola d’arquitectura de l’Armour Institute of Technology, de la qual és nomenat director. Projecta i construeix el campus del nou Illinois Institute of Technology, així com els seus edificis prismàtics, amb estructura d’acer i tancaments d’obra vista i vidre.

El 1940 coneix Lora Marx, que l’acompanyarà fins al 1969. El 1944 esdevé ciutadà dels Estats Units.

Del 1945 al 1950 construeix la casa Farnsworth a Illinois, situada en un prat, envoltada d’arbres i enfront del riu Fox. Es tracta d’una casa amb una única sala i façanes de vidre, que té el terra i la coberta resolts amb lloses planes de formigó.

Entre els anys 1948 i 1951 fa realitat el seu somni de construir un gratacels de vidre amb les dues torres del Lake Shore Drive Apartments de Chicago, i, més tard, el Commonwealth Promenade Apartments, també a Chicago (1953-1956). Són edificis on utilitza de forma magistral l’estructura porticada i el mur cortina de vidre i acer.

Entre el 1954 i el 1958 construeix, en col·laboració amb Philip Johnson, el llegendari edifici d’oficines Seagram Building de Nova York, referència obligada d’aquesta mena d’edificis, on segueix perfeccionant l’estructura de pòrtics i el mur cortina.

Del 1957 al 1961 construeix l’edifici d’oficines Bacardí a Mèxic, en el qual segueix utilitzant el vidre, l’acer i el travertí com a materials fonamentals de la seva arquitectura.

El 1959 es jubila de l’Illinois Institute of Technology.

Del 1962 al 1968 construeix a Berlín la Galeria Nacional. Es tracta d’un edifici dedicat a exposicions d’obres d’art, format per una gran sala quadrada construïda completament en cristall i acer i situada sobre una extensa terrassa de lloses de granit.

El 17 d’agost del 1969 mor a Chicago deixant com a llegat uns cànons nous per a l’arquitectura que sota el seu tan divulgat lema “less is more” proclamen una arquitectura sòbria i universal.