Ed van Thijn werd geboren in Amsterdam. De familie Van Thijn was Joods. In 1943 werden Ed van Thijn en zijn moeder gearresteerd en naar doorgangkamp Westerbork overgebracht. Zijn vader wist hen echter met een list te bevrijden. Van Thijn verbleef daarna op verschillende onderduikadressen, maar werd opnieuw gearresteerd en naar Westerbork overgebracht. Daar zat hij nog gevangen toen Nederland werd bevrijd.
Van Thijn studeerde politicologie aan de Universiteit van Amsterdam. Van 1961 tot 1967 was hij medewerker van de Wiardi Beckman Stichting, het wetenschappelijk bureau van de Partij van de Arbeid. Ook was hij van 1962 tot 1971 lid van de gemeenteraad van Amsterdam. Van 1967 tot 1981 was hij lid van de Tweede Kamer (in de periode 1973-1978 fractievoorzitter).
In september 1981 werd Van Thijn minister van Binnenlandse Zaken in het kabinet-Van Agt II (CDA, PvdA en D’66). Als zodanig was hij fungerend Commissaris van de Koningin in de niet-provinciaal ingedeelde gebieden in de IJsselmeerpolders. Destijds waren dat de gemeenten Dronten en Lelystad en het openbaar lichaam 'Zuidelijke IJsselmeerpolders' (de latere gemeenten Almere en Zeewolde en het Markermeer).
In mei 1982 stapte de PvdA uit het kabinet-Van Agt II, en trad Van Thijn dus af als minister. Tijdens zijn korte ministerschap gaf hij echter wel de aanzet tot de vorming van de latere provincie Flevoland.
Van 1983 tot 1994 was Van Thijn burgemeester van Amsterdam. In 1994 was hij korte tijd opnieuw minister van Binnenlandse Zaken.