W jego utworach są strofy naiwne, ale także, zwłaszcza w latach międzywojennych, ukształtowanych poetycko, pisanych ze znawstwem i wyczuciem piękna języka polskiego (np. wiersze: „Tęskność za mową ojczystą” i „Ty mazurski kraju nasz”). Za życia doczekał się zbioru Pieśni mazurskie (1927), który ukazał się dzięki staraniom Emilii Sukertowej-Biedrawiny nakładem redakcji „Gazety Mazurskiej” i „Mazura”.
Bibliografia twórczości Michała Kajki: Wybór wierszy, wybór i posł. Igor Sikirycki, przedm. Władysław Gębik, Warszawa 1954. Wiersze wybrane, wybór i przedm. Władysław Gębik, Olsztyn 1958. Z duchowej mej niwy…, wiersze zebrali i oprac. Janusz Jasiński, Tadeusz Oracki, Olsztyn 1982. Gedichte (red.) Zbigniew Chojnowski, [przekł. na język polski] Michał Szalonek, Berlin 2003. Treny mazurskie, wybór i posł. Joanna Chłosta-Zielonka, Warszawa 2003. Mały kancjonał mazurski i opowieści ucieszne, oprac. filologiczne i wstęp Zbigniew Chojnowski, Olsztyn 2008. Pieśni mazurskie, do dr. podał i wstępem opatrzył Janusz Jasiński, Ogródek [Dąbrówno] 2014.