Im Jahre 1903 wurde der Gifhorner Kirchenchor durch Pastor Robert Rasch gegründet. Dieser amtierte von 1898 - 1908 in Gifhorn. In seiner Erinnerungen schrieb er dazu: »In diese Jahre fällt auch die von mir angeregte Gründung eines Kirchenchors. Ich erfreute mich dabei vor allem der Unterstützung einiger mir in Freundschaft verbundener Stadtlehrer, die in diesem wie auch in andern Fällen eine geistige Regsamkeit bewiesen, die die sogen. Gesellschaft, die Leute von Bildung und Besitz recht beschämte, vor allem deren männlichen Teil, der diese seine Eigenschaften lieber in Früh- und Dämmerschoppen, in Kegelabenden und üppigen Abendgesellschaften austobte. Die Leitung des Chores übernahm der Musiklehrer der Präparandenanstalt, ein junger Herr Kölle, der sich dieser seiner Aufgabe, ebenso wie sein späterer Nachfolger, Herr (Hermann) Faber, mit Eifer und Verständnis hingab. Meine Frau und ich sangen selber mit, und wir hatten wie alle andern große Freude daran. Der Chor bestritt auch zusammen mit andern Gesangskräften der Stadt die Schillerfeier i.J. 1905.«
Bei seinem Weggang 1908 gehörten dem Chor 52 Sängerinnen und Sänger an. Die erste Geistliche Abendmusik des Kirchenchores fand am 11. Februar 1906 mit Werken von Bach, Schubert, Tartini und Mendelssohn statt. Neben der Orgel wurde ein Flügel aus der Fabrik von Zeitter & Winkelmann in Braunschweig und ein Harmonium aus der Fabrik Grotrian benutzt. Während zu Anfang dieses Jahrhunderts ein Organist, ein Kantor und ein Chorleiter an der St.-Nicolai-Kirche ihr Amt hatten, übernahm 1926 der Lehrer und Kantor Rudolf Schmidt den Chor, als Nachfolger seines Vaters, Karl Schmidt, und von Hermann Faber.
Der Chor war 1930 auf etwa 20 Mitglieder zusammengeschmolzen, die trotz der Ungunst der Zeiten treu zusammenhielten. Abendmusiken fanden in der Zeit kaum noch statt. Am 1. April 1942 übernahm Superintendent Chappuzeau bei der Auflösung der Kantorenstelle den Chor und leitete ihn bis 1954. Es wurde öfter in den Kästorfer Anstalten, in Clausmoorhof und im Krankenhaus gesungen.
Einen neuen Aufschwung nahm der Chor 1945 schon durch die Beteiligung vieler Heimatvertriebener. Der Kirchenchor war in dieser Zeit dem Leiter eine wertvolle Hilfe in seiner Arbeit als Geistlicher. Nach 1946 wurden mehrere Kirchenchortreffen in Wittingen, Ribbesbüttel, Hohne, Celle, Hameln u. a. besucht. Der Kirchenchor und der Posaunenchor waren 1951 und 1952 besonders aktiv bei mehreren Gemeindeabenden und bei Krippenspielen in den Außendörfern, die mit der Jugend veranstaltet wurden.
Nachdem kurze Zeit der damalige Organist, Lic. Gebhardt, den Chor geleitet hatte, gab es bis zur hauptamtlichen Besetzung der Kirchenmusikerstelle im Jahre 1959 einige Übergangslösungen. Im Dezember 1960 änderte der Chor seinen Namen, er heißt seit der Zeit »Kantorei St. Nicolai«.
Seitdem haben die jeweiligen Kirchenmusiker (Kantoren) auch den Chor geleitet:
- Gottfried Piper: 1959 bis 1968,
- Helmut Hoffmann: 1969 bis 1970,
- Wolfgang Liebert: 1970 bis 1995,
- David Menge: 1996 bis 2015,
- Raphael Nigbur: seit 2015.
Das Hauptziel und die Hauptaufgabe des Chores ist es, durch die Musica sacra unter dem Leitspruch »Soli deo gloria« zu dienen. Dies geschieht in der Gestaltung von Konzerten und Gottesdiensten.