Anii aceștia sunt cei mai negri pentru fotbalul feroviar. După ce revine din Divizia B în 1975, în sezonul 1975-1976 echipa ocupă locul 14 în campionat, iar în sezonul următor locul 16, retrogradând pentru a patra oară în eșalonul secund, unde va rămâne, de această dată, șase sezoane. În acești ani echipa, din postura de divizionară secundă, ocupă următoarele locuri în clasament: 4 (1977-1978), 6 (1978-1979), 2 (1979-1980), 3 (1980-1981), 2 (1981-1982) și locul 1 (1982-1983), ducând în această perioadă o rivalitate crâncenă cu Petrolul Ploiești și Progresul București. Revenirea în prima divizie se datorează antrenorilor Valentin Stănescu (cel care a adus și primul titlu în 1967) și Viorel Kraus și a lotului de jucători format din: Ion Gabriel, Manu, Popescu, Paraschiv, Pîrvu, Șișcă, Tiță, Iancu, Cojocaru, Ion Ion, Manea, Ad. Dumitru, Petruț, Ispas, C. Dumitriu, Avram, Damaschin, Marta, Lazăr, Koti, Săftoiu, A. Mincu, Petre Petre.

În anul competițional 1983-1984 Rapid ocupă locul 13 în Divizia A, iar în anii următori locurile: 11 (1984-1985), 8 (1985-1986), 14 (1986-1987), 13 (1987-1988). În sezonul 1988-1989 retrogradează pentru a cincea oară, ocupând locul al 17-lea. În acest an ajunge până în semifinalele Cupei României, unde o întâlnește pe Steaua, și pierde cu scorul de 2-3 în urma unui gol marcat în minutul 90

Pe 14 august 1985 Rapidul suferă cea mai severă înfrângere din campionat, pe terenul Corvinului, scor 9-0.[11] Pe 3 mai 1989 are loc Rapid-Steaua 2-8, meciul cu cele mai multe goluri primite pe teren propriu de giuleșteni.