Kiedy w 1971 r. drużynę Śląska opuścił czechosłowacki trener Josef Stanko, któryś z kolegów zaproponował, że może Żmuda zostanie trenerem. Miał ku temu kwalifikacje jako absolwent warszawskiej AWF.
Kiedy w 1971 r. drużynę Śląska opuścił czechosłowacki trener Josef Stanko, któryś z kolegów zaproponował, że może Żmuda zostanie trenerem. Miał ku temu kwalifikacje jako absolwent warszawskiej AWF. Już wcześniej w zastępstwie trenera zdarzało mu się prowadzić treningi. Początkowo się opierał myśląc sobie: „z kumpla mam stać się ich wychowawcą”. W końcu zadebiutował w roli trenera II-ligowego Śląska 8 sierpnia 1971 r. Zdawał sobie sprawę z tego, że co innego być piłkarzem, a co innego trenerem swoich kolegów. Pozostali kolegami, ale po zajęciach. Podczas treningu byli posłuszni i wykonywali wszystkie polecenia. Od tamtego czasu trener Władysław Żmuda powoli i cierpliwie zaczął budować drużynę. Jeszcze za czasów trenera Władysława Giergiela i Artura Woźniaka prowadził notatki z prowadzonych przez nich treningów, czytał dużo fachowej literatury i to nie tylko polskiej. Zaczął budować wielki zespół niemal od podstaw. Przede wszystkim nie chciał, żeby zawodnicy trafiali do Śląska jedynie na dwa lata, by po odbyciu służby wojskowej odejść do innego klubu. Trener Żmuda nie ściągał do Wrocławia wielkich gwiazd, lecz sięgał po utalentowanych piłkarzy z lokalnych klubów wrocławskich i dolnośląskich, którzy byli związani z miastem. Stopniowo tworzyła się zgrana „paczka chłopaków stąd”.
W sezonie 1971/1972 drużyna zaczęła się stabilizować. Po zajęciu w rozgrywkach II ligi 5. miejsca powoli zaczęto myśleć poważnie o możliwości powrotu do najwyższej klasy rozgrywek. Już w kolejnym sezonie – 1972/1973 – Śląsk powrócił do grona zespołów I ligi (obecnie ekstraklasy).
Sezon 1974/1975 okazał się być przełomowy. Do ostatniej chwili trwała zacięta rywalizacja pomiędzy Śląskiem a Wisłą Kraków o 3 miejsce w tabeli, które oprócz brązowych medali mistrzostw Polski gwarantowały udział w rozgrywkach o Puchar UEFA. Sztuka ta powiodła się. Śląsk osiągnął swój pierwszy historyczny sukces!