Ved byutvidelsen i 1875 ble det bestemt at «Glommengaden» skulle gå fra bygrensen i vest og fram til «løytnant Rynnings hus.» For dem som bodde i byen på denne tiden, var denne presiseringen sikkert grei nok. Alle visste hvem løytnanten var, og hvor huset lå.
Løytnant Rynning var en bror av Lorenzo Rynning på Holt gård. Løytnantens fulle navn var Ludvig Christian Scheidt Rynning, født på Skinnarbøl i 1838 som eldste sønn av «Skinnarbølpresten» Mentz Rynning og hustru Johanna Grønvold. Ludvig Rynning ble utnevnt til løytnant i 1861 og avanserte til kaptein i 1877. Etter dette ble gården antagelig kalt Kapteinsgården.
Ludvig Rynning giftet seg i 1864 med Marie Kyhn, datter av stiftamtmannen i Hedmark. Av 11 barn nådde bare fem piker voksen alder.
Ludvig Rynning kjøpte denne eiendommen i 1866. Selger var Gudbrand Olsen, bror av Lars Olsen på Holt. Brødrene hadde delt det store gårdsbruket mellom seg, men hvem som satte opp den prektige bygningen, den senere Kapteinsgården, er usikkert. Vi vet heller ikke når det skjedde.
I en annonse i Hedemarkens Amtstidende i 1875 averterer løytnant Rynning tomter til salgs. I samme nummer av avisen legger han også husene på gården ut for salg. Det er «Gaard med Tomt og Have…. Vaaningshuset indeholder 10 ildværelser, foruden to i Kjelderetagen, der med ringe Paakostning særlig egner sig for Udsalgsted. Alle fornødne udvendige Beqvemmeligheder, hvoriblandt Stald og Fjøs forefindes. Det blir også opplyst at våningshuset har «Bageri og Bagerbutikk i Kjælderen.»
Men hvorfor ville løytnanten selge denne prektige eiendommen like før den ble innlemmet i byen? Årsaken kan være at Rynning kom til å tjenestegjøre i Gudbrandsdalen Bataljon og Østerdalen Bataljon, og samværet med familien kom til å lide under dette. Men gården ble ikke solgt i 18875.
I 1882 ble salget en realitet. Ludvig Rynning selger eiendommen til sin bror Lorenzo som på denne tiden hadde overtatt Holt gård. Kapteinen flyttet fra Kongsvinger, men i tiden foran unionsoppløsningen i 1905 er han tilbake i sin barndoms by. Han er øverste sjef for en militær avdeling som holder grensevakt i distriktet. Han har sitt hovedkvarter i Aamodtgården under festningen, og hans militære grad er nå oberstløytnant.
I 1885 bodde det 33 personer i gården. Blant disse var en lokomotivfører og en konduktør med familier, og Lorenzo Rynning leide også ut til en sagmester og en formann som arbeidet for ham. I begge familiene var det mange barn.
Etter Lorenzo Rynnings konkurs ble gården solgt i 1897, og det var Lorenzos bror, sakfører Jens Emanuel Rynning som sto for salget. Kjøper var jernbaneformann Henrik Hernes. Gården gikk snart videre til M. Kristensen, som eide gården ved århundreskiftet.
Gården ble kjøpt av Otto Melstrøm i 1917. Nytt eierskifte fant sted i 1939 da gården ble overtatt av Kongsvinger elektriske forretning ved Hans og Johan Nitteberg. Dette firmaet hadde eksistert fra 1917 og hadde spesialisert seg på alt som hadde med elektrisk installasjon og utstyr å gjøre. Strømmen ble satt på de elektriske ledningene i Kongsvinger i 1901, og det var behov for folk som mestret den nye teknikken.
Forretningens første lokale var i underetasjen i Øverbygården (Kohtgården), senere i Brugata og deretter i Glommengata 54 (Møbelringen i dag) før Kapteinsgården ble kjøpt i 1939 av Nitteberg. Begge brødrene Nittebergs familie hadde leilighet i gården etter dette.
Den 4. mai 1961 startet Elektro Senter Glåmdal AL i bygget med Thor Walmann som ansvarlig leder fram til mars 1967 da han gikk over i annen stilling. Nå overtok Sigmund Tremoen som daglig leder. Karsten Rismyhr jobbet med installasjoner, og Arne Aflangerud tok for seg kontorarbeidet.
Lege Tord Asak åpnet legepraksis i gården i juni 1973, og utleier var da Hilma Nitteberg (1892 – 1977), enka etter Hans Nitteberg. Asak var her fram til 1975 for så å overta kontorlokalene etter tannlege Finn Rognhaug i Engs bygg i Fjellgata.
Glåmdal S-lag kjøpte gården og tomta i 1975. Nytt bygg sto ferdig i 1977/78 under navnet Domus.
