Mit dem Abstieg in die unterste Spielklasse im Bezirk Bodensee im Spieljahr 1995/96 wurde eine über mehrere Jahre lange Talfahrt beendet. Sicherlich war dies in der Geschichte der Fußballabteilung eine der bittersten Stunden, auf der anderen Seite hatte der inzwischen neugewählte 1. Vorsitzende Wolfgang Schäffler und seine Vorstandskolleginnen und Kollegen, die Möglichkeit zu einem Neuanfang. Erstes Ziel war es den Verein finanziell und vor allem sportlich wieder auf gesunde Beine zu stellen.
Zu Beginn der Saison 1996/97 übernahm Markus Unmuth das Traineramt bei der SGA. Im ersten Jahr in der Kreisliga B reichte es noch nicht zum Wiederaufstieg, aber nur ein Jahr später war es dann so weit. In der Saison 1997/98 wurde Aulendorf überlegen Meister und stieg wieder in die Kreisliga A auf. Nach dem Aufstieg folgte dann eine schwierige Saison 1998/99. Nach einer turbulenten Saison belegte die SG Aulendorf am Ende einen 10. Tabellenplatz.
Zu Beginn des Spieljahres 1999/00 gelang es den Verantwortlichen mit Rudi Kla-witter einen Trainer zu verpflichten, welcher die B Lizenz besitzt. Aus einem Abstiegskandidaten der Vorsaison formte Rudi Klawitter in kurzer Zeit einen Meisterschaftskandidaten der Kreisliga A. Zu Beginn des Jahres 2000 stand die SG Aulendorf auf dem 1.Tabellenplatz und versuchte diesen Platz bis zum Ende zu verteidigen, um in die Bezirksliga aufzusteigen. Leider war dieses Unterfangen am Ende nicht vom Erfolg gekrönt.