Kwiecień-lipiec 1919 r. Oddział ten został przerzucony na Łotwę i wspólnie z siłami Bałtyckiej Landeswehry brał udział w walkach z Armią Radzieckiej Łotwy. Początkowo podlegał Rosyjskiemu Korpusowi Ochotniczemu Najświatlejszego Księcia Lievena. Uczestniczył m.in. w bitwie o Rygę w końcu maja 1919 r., po której Niemcy i sformowany przez nich marionetkowy rząd łotewski Andrievsa Niedry przejęli kontrolę nad łotewską stolicą. W maju jednostka dowodzona przez Bermondta-Awałowa została wyodrębniona z Rosyjskiego Korpusu Ochotniczego i przemianowana na Zachodni Korpus Ochotniczy im. hr. Kellera. Oddział liczył wówczas ok. 6000 żołnierzy i po bitwie o Rygę został ześrodkowany w Mitawie. Nie brał udziału w niemiecko-estońsko-łotewskiej bitwie pod Kiesią. 6 czerwca 1919 r. oddział Bermondta został ponownie podporządkowany Rosyjskiemu Korpusowi Ochotniczemu, który z kolei uznał zwierzchnictwo gen. Nikołaja Judenicza, dowódcy Armii Północno-Zachodniej, która zamierzała z terytorium Estonii uderzyć na radziecki Piotrogród.