Johannes Schweizer studierte an der Höheren Lehr- und Forschungsanstalt in Berlin-Dahlem und absolvierte ein Praxisjahr in Dresden ebenso wie ein Zusatzstudium zum Gartenbauinspektor. Er kam mit expressionistischen Architekturentwürfen der „gläsernen Kette“ in Berührung, die seine frühen Gartenentwürfe beeinflussten. Zudem begann in dieser Phase eine langjährige Freundschaft mit bekannten deutschen Vertretern der Gartenarchitektur.

In der Schweiz trat er 1924 in das väterliche Gartenbauunternehmen in Glarus ein, eröffnete dann 1936 seinen eigenen Betrieb in Basel und absolvierte Studien in Kunstgeschichte und Nationalökonomie. Zu seinem beruflichen Wirken gehört auch seine publizistische Tätigkeit für in- und ausländische Zeitschriften. 1956 veröffentliche er seine Dissertation über die Friedhofsreform.

Johannes Schweizer begann sein Schaffen mit Gestaltungen im architektonischen und expressionistischen Stil, fand dann aber durch seine auf Zweckdienlichkeit ausgerichtete Grundhaltung in den Anlagen zur Industriesiedlung in Möhlin/AG und vielen seiner Friedhofsentwürfe zu einer sachlich-funktionalen Gestaltung. In den 1950er Jahren verwendete er den landschaftlich gestalteten Wohngartenstil und in den 1960er Jahren graphische und skulpturale Gestaltungsansätze. Zwei Höhepunkte in seinem Schaffen sind Beiträge zur Weltausstellung in Paris 1937 und die Planung des linken Seeufers für die G 59 in Zürich zusammen mit Walter und Niklaus Leder.