Das Institut wurde 1822 von Carl Friedrich Zelter gegründet und diente der Ausbildung von Organisten, Kantoren und Lehrern an Seminaren und Gymnasien. Die Ausbildung dauerte in den Anfangsjahren in der Regel nur ein Jahr, konnte aber ggf. auf zwei Jahre verlängert werden. Die ersten Lehrkräfte der Einrichtung, die im Volksmund „Orgel-Institut“ hieß, waren August Wilhelm Bach (Orgel) und Bernhard Klein (Gesang und Instrumentation). 1825 folgte Carl Gottlieb Reißiger, bald darauf auch Eduard Grell.
Sitz des Instituts war zunächst die Wohnung C. F. Zelters im Gebäude der Singakademie am Festungsgraben. 1832 erfolgte der Umzug in die Papenstraße 10 in die Amtswohnung von August Wilhelm Bach, die sich in unmittelbarer Nähe der Marienkirche in Berlin-Mitte befand, an der Bach als Musikdirektor und Organist tätig war. 1854 firmierte es als „Königliches Kirchen-Musik-Institut“ und verfügte erstmals über eigene Räumlichkeiten in der Spandauer Straße 72. Später wurde das Institut in „Institut für Kirchenmusik“ umbenannt.
Das Institut fand nach mehreren weiteren Umzügen 1903 ein endgültiges Domizil am heutigen Ernst-Reuter-Platz in der Hardenbergstraße 41 in Berlin-Charlottenburg. Um 1922 erfolgte eine erneute Umbenennung in „Staatliche Akademie für Kirchen- und Schulmusik“.
Zu den bedeutenden Lehrern zählten Carl Friedrich Zelter, August Wilhelm Bach, August Haupt, Robert Radecke, Hermann Kretzschmar, Carl Thiel, Hans Joachim Moser, Fritz Stein und Eugen Bider.
