Mercedes-Benz musiał zastąpić udaną serię W123, a prace nad nowym modelem rozpoczęły się w 1976 roku, w tym samym roku, w którym jego poprzednik wszedł na rynek.
Nie było to typowe, aby producent samochodów rozwijał nowy model przez tak długi czas. Niemiecki producent nie spieszył się. Poświęcił czas i podszedł do sprawy z rozwagą. I to mu się udało. W123 okazał się ogromnym sukcesem, z ponad dwoma milionami wyprodukowanych egzemplarzy w ciągu dziesięciu lat.
Zaprezentowany przez Brunona Sacco, model W124 wyraźnie odróżniał się od pozostałych samochodów w gamie. Wyglądał bardziej jak większa wersja modelu 190 niż jak pomniejszona klasa S (W126). Jednak nie potrzebował żadnej nazwy, aby rozpoznać markę samochodu. Jego prostokątne, lekko pochylone reflektory miały pomarańczowe kierunkowskazy umieszczone w narożnikach. Maskę pojazdu zdobił lekki garb w kształcie litery V, który przechodził w nachyloną szybę. Z profilu, kanciaste kształty były łagodzone przez zaokrąglone panele drzwi, a z tyłu znajdowała się pochylona ku przodowi tylna szyba. Na samym końcu, światła tylne otaczały otwarcie bagażnika w kształcie litery V.
Wnętrze kabiny było wyposażone w dwa fotele kubełkowe z przodu oraz kanapę z tyłu. Sacco zaprojektował również kanciastą deskę rozdzielczą, z trapezoidalnym kształtem dla zespołu wskaźników, z nachyloną powierzchnią przed pasażerem z boku. Imponujący centralny panel mieścił odtwarzacz kasetowy i sterowniki klimatyzacji, rozciągając się między przednimi siedzeniami w postaci konsoli środkowej. Z tyłu było wystarczająco dużo miejsca dla trzech pasażerów, chociaż tunel napędowy był dość wysoki.