После победы в чемпионате Швейцарии в 1938 и 1939 годах он впервые принял участие в крупном международном турнире, чемпионате Европы 1939 года, и занял пятое место. После этого его карьеру прервала Вторая мировая война. Когда разразилась война, он жил в Англии со своим дядей Жаком Гершвилером . Когда его дяде пришлось вернуться в Швейцарию, Ханс остался с семьей Сесилии Колледж , которая была многократной чемпионкой мира и Европы с 1937 по 1939 год. В то время он был заводским рабочим и пожарным, поэтому мог заниматься фигурным катанием только один раз. неделя. Тренером был его второй дядя Арнольд Гершвилер .
После окончания войны, несмотря на семилетний перерыв, он сразу же выиграл чемпионат Европы, а также чемпионат мира в 1947 году. На чемпионате Европы он выиграл, опередив чехословацкого Владислава Чапа, а на чемпионате мира чуть опередив Американец Ричард Баттон . В следующем году он потерпел поражение от Баттона на чемпионате Европы, чемпионате мира и Олимпийских играх и в каждом случае выиграл серебряные медали. Затем он закончил свою любительскую карьеру и стал профессионалом .
Гершвилер был первым чемпионом Европы и мира по фигурному катанию из Швейцарии и до сих пор остается единственным чемпионом Европы из Швейцарии. До чемпионата мира 2005 года , на котором Стефан Ламбьель выиграл, он также был единственным чемпионом мира из Швейцарии. После бронзовой медали Жоржа Готшиса на Олимпийских играх 1924 года Гершвилер выиграл вторую олимпийскую медаль для Швейцарии по фигурному катанию и сегодня делит рекорд со Стефаном Ламбьелем, который также выиграл серебро на Олимпийских играх 2006 года .
В 1920, 1922, 1923 и 1928–1930 годах чемпионатов Швейцарии по фигурному катанию среди мужчин не проводилось, в 1974–1975 годах титул чемпиона Швейцарии не присуждался.