Dzimis 1898. gada 19. jūnijā Rīgā sabiedriskā darbinieka Frīdriha Baginska ģimenē. Bez viņa ģimenē vēl otrs brālis Kārlis, Brīvības cīņu laikā Latvijas Bruņoto spēku kapteinis, un māsa Elza. A. Baginskis mācījās Rīgas reālskolā.
Pirmā pasaules kara laikā brīvprātīgi iestājās 6. Tukuma latviešu strēlnieku pulkā, piedalījies strēlnieku cīņās. Beidzis Ziemeļfrontes praporščiku skolu.
1918. gada decembrī brīvprātīgi iestājās Latvijas armijā. Studentu rotas rindās piedalījies Latvijas brīvības cīņās.
1919. gada 22. marta Bateru kaujā pie Sarmu mājām Zemgalē, kad ienaidnieks bija apgājis Latvijas armijas vienību kolonnu un atklājis spēcīgu ložmetēju uguni, Baginskis sava vada priekšgalā drošsirdīgi cīnījās, līdz krita, sprāgstošas lodes ķerts. Ar savu drosmi veicināja Sarmu māju ieņemšanu. Apbedīts Rīgā, Brāļu kapos. Apbalvots par 1919. gada 22. marta cīņām pie Sarmu mājām Zemgalē.