Nowa generacja Audi A4, inspirowana kulturą projektowania Bauhausu, została zaprezentowana pod koniec 2000 roku na targach motoryzacyjnych w Paryżu.
W 2000 roku Audi stało się poważnym konkurentem na rynku samochodów premium. W segmencie kompaktów musiało stawić czoła silnej rywalizacji ze strony BMW serii 3 oraz Mercedesa klasy C. Jego głównymi atutami były napęd na przednie koła oraz napęd na wszystkie koła, które były łatwiejsze w obsłudze niż tradycyjne napędy na tylne koła.
Projekt nadwozia został stworzony przez Petera Schreyera, byłego laureata Stypendium Audi z lat 80. Jego imię zyskało sławę dzięki modelowi TT, który był dla niego inspiracją. A4 łączyło cechy modelu TT oraz większego sedana A6. Wąskie reflektory i wysoko umieszczone światła tylne były charakterystyczne dla modeli Audi z tamtej epoki. Wygięte i płaskie powierzchnie nadawały mu elegancki wygląd, ale nie minimalistyczny.
Wnętrze kontynuowało zewnętrzny styl, oferując płaską i zakrzywioną deskę rozdzielczą z przesuniętą do przodu konsolą centralną. Dzięki temu była ona łatwiej dostępna zarówno dla pasażerów z przodu, w przeciwieństwie do skoncentrowanej na kierowcy, jak w BMW. Pomysł „trzymaj to prosto” sprawdził się, choć niektórzy krytycy zauważyli, że wygląd był jednocześnie zbyt prosty i nudny. Przynajmniej układ wnętrza zapewniał przyzwoitą przestrzeń na nogi dla pasażerów z tyłu, chociaż osoby wysokie mogły mieć problemy z przestrzenią nad głową.
Z technicznego punktu widzenia, druga generacja A4 opierała się na nowej platformie B6 (PL46). Wyposażona była w silniki umieszczone wzdłużnie, oferując napęd na przednie lub wszystkie koła. Model podstawowy miał silnik benzynowy o pojemności 1.6 litra, natomiast najwyższa wersja była napędzana silnikiem V6 o pojemności 3.0 litra i mocy 220 KM. Audi A4 było dostępne z 5- lub 6-biegową manualną lub automatyczną skrzynią biegów.
Nowa generacja A4 zadebiutowała pod koniec 2000 roku, korzystając z platformy B6. Model podstawowy 1.6 L pozostał bez zmian, ale większość innych silników benzynowych zyskała większą pojemność lub więcej mocy. Silnik 1.8 20 zaworów Turbo dostępny był teraz w dwóch dodatkowych wariantach, o mocy 150 lub 180 KM (110 lub 132 kW), ten drugi z standardową sześciobiegową skrzynią biegów, podczas gdy silniki 1.8 L z napędem atmosferycznym oraz 2.8 L V6 zostały zastąpione jednostkami 2.0 L i 3.0 L, wciąż z pięcioma zaworami na cylinder, z których najpotężniejsza osiągała 220 KM (162 kW) i 300 Nm (221 ft.lbf) momentu obrotowego. Silnik 1.9 TDI został ulepszony do 130 KM i był teraz dostępny z napędem quattro, podczas gdy wprowadzono model high-end 2.5 V6 TDI z mocą 180 KM (132 kW) i standardowym napędem quattro. Wersja Avant zadebiutowała w połowie 2001 roku.
W 2002 roku Audi zwiększyło moc silników 1.8 Turbo do 163 i 190 KM (120 i 140 kW odpowiednio), a w wersji pośredniej 2.5 TDI do 163 KM. Rok później Audi ponownie wprowadziło model S4, teraz napędzany silnikiem V8 o pojemności 4.2 L i mocy 344 KM (253 kW), a także wersję kabriolet A4, która ostatecznie zastąpiła model Audi Cabriolet oparty na Audi 80, który został wycofany w 1998 roku.
Audi wprowadziło również bezstopniową skrzynię biegów opracowaną przez firmę LuK, nazwaną Multitronic, która zastąpiła Tiptronic w modelach z napędem na przednie koła. Skrzynia biegów zyskała znaczną pochwałę od prasy motoryzacyjnej i jest ogólnie uważana za najlepszą w swoim rodzaju na świecie, ze względu na swoją niską wagę i szybką reakcję, jednak jej użycie było ograniczone do modeli z maksymalnym momentem obrotowym 310 Nm (229 ft.lbf).
Na wzór Audi A6, projekt bagażnika został przeprojektowany, aby usunąć przedłużenie górnej krawędzi z gładszą linią zgięcia, a zespoły świateł tylnych stały się częścią górnej linii.