Las primeras citas musicales profesionales de John Bitter fueron como director de la Orquesta Sinfónica de Jacksonville (1934-1937) y director de la Sinfónica Federal de Florida (1937-1939). También fue director asociado de la All American Youth Orchestra de Leopold Stokowski (1940-1941).
Posteriormente se desempeñó como director de la Orquesta Sinfónica de la Universidad de Miami de 1940 a 1942, luego se alistó en el Ejército de los Estados Unidos durante la Segunda Guerra Mundial en 1943 y sirvió durante cinco años como Oficial de Inteligencia en el Noveno Ejército. Se quedó después de la guerra en Berlín, y ayudó con los esfuerzos de reeducación cultural de los Estados Unidos como supervisor de la División de Control de la Información (ICD) del Gobierno Militar estadounidense y titular de la licencia militar para la Filarmónica de Berlín. También dirigió la Filarmónica de Berlín, 30 veces entre 1945-1948, y fue director invitado de la Orquesta Sinfónica de Dresde y la orquesta Filarmónica de Hamburgo.
Se divorció, y en 1947 se casó con Barbara Buttery Pinion, nacida en Inglaterra (1918-2013), analista de investigación para la WRAF y analista de documentos durante los Juicios de Nuremberg (1945-1946). Su hija Robin Simonetta Bitter nació en Florencia, Italia, en 1950.
La familia Barbara y John Bitter se mudó a Miami, Florida en 1950, cuando fue nombrado decano de la Escuela de Música de la Universidad de Miami (rebautizada Escuela de Música Frost en 2003) y director musical y director de orquesta de la Orquesta Sinfónica de la Universidad de Miami. Su hija Noel Lesley Bitter nació en Miami en 1952 y su tercera hija Marietta Barbara Bitter nació en 1957.
Bitter dirigió la Orquesta Sinfónica de la Universidad de Miami durante 13 temporadas con suscriptores tanto en el Auditorio Municipal de Miami Beach como en el Auditorio del Condado de Dade. Los conciertos contaron con destacados solistas invitados del día, incluidos el violinista Yehudi Menuhin, el violonchelista Leonard Rose, la soprano Beverly Sills y la pianista Gina Bachauer. También invitó a un flujo constante de directores invitados, incluidos Igor Stravinsky, Heitor Villa-Lobos, Andre Kostelanetz y Arthur Fiedler. La facultad de música y los estudiantes de la Universidad de Miami actuaron en la orquesta.
En 1950 también estableció una serie de Conciertos Pops de Verano de Miami Beach de una década presentada por la Orquesta Sinfónica de Verano de la Universidad de Miami en el Auditorio de Miami Beach. Su programación contó con directores invitados como Paul Whiteman y Skitch Henderson, y Bitter dirigió conciertos con solistas como el pianista cubano Jorge Bolet.
Bitter también dirigió durante los meses de verano en lugares como el Brevard Music Center en Asheville, Carolina del Norte.
