Zeitgleich mit seiner Tätigkeit als Jurist hatte sich Armin Knab als Komponist von Liedern in der Jugend- und Schulmusikbewegung einen Namen gemacht. Kurz nach seiner Pensionierung bekam er im Mai 1934 das Angebot, als Lehrer für Musiktheorie an der Hochschule für Musikerziehung und Kirchenmusik in Berlin-Charlottenburg zu unterrichten. Dieses Angebot war aus heutiger Sicht recht überraschend, da er zwar Musik studiert, aber keinen Abschluss gemacht hatte. Knab profitierte wohl hier von der kurz zuvor erfolgten Arisierung der deutschen Hochschulen durch die Nationalsozialisten.