Wówczas Carmichael zdecydowała się dołączyć do związku Church Missionary Society.
Służba w Indiach Amy Carmichael pojechała służyć w Japonii, jednak zrezygnowała z powodu trudności językowych, a także zdrowotnych. Po 15 miesiącach przeniosła się na Cejlon (Sir Lanka), gdzie spędziła kolejnych kilka miesięcy. Potem musiała wrócić na pewien czas do Anglii, aby zająć się chorym przyjacielem. W roku 1895 Carmichael została z powrotem wysłana na misję, tym razem do Indii z ramienia misji Church of England Zenana Mission. Pierwszym miejscem jej służby był kościół w Bangalore. Sam kościół był bardzo aktywny w swojej pracy, lecz nie wnosił żadnych zmian w życie tamtejszej ludności. Carmichael odnosiła się z niechęcią do spotkań z innymi misjonarkami, umawiającymi się na popołudniową herbatę, by plotkować i do tego, jak okazywały brak troski o życie wieczne Hindusów. W tamtym czasie zmagała się często z samotnością i brakiem zrozumienia.