Był nawet sekundantem Nikołaja Gumilowa w jego pojedynku z Maksimilianem Wołoszynem. Obaj poeci przeżyli starcie, zaś sam incydent (wywołany zazdrością o kobietę) został później nazwany „ostatnim pojedynkiem poetów”.
Natomiast zupełnie prawdziwa jest wiadomość o homoseksualnej orientacji pisarza, który raczej się z tym nie krył, często wywołując skandale towarzyskie. To nie spotykało się raczej z akceptacją nawet w środowisku artystycznym, a po śmierci Kuzmina stało się jedną z przyczyn skazania jego twórczości na przymusowe i długotrwałe zapomnienie. Jednak powtórne odkrycie jego dzieł, trwające od czasów pieriestrojki, sprawiło, że okrzyknięto Kuzmina rosyjskim Oskarem Wildem. Nie jest to bezpodstawnym sloganem, bo obu twórców łączy nie tylko orientacja seksualna, ale i niezwykła wrażliwość poetycka, wyczucie stylu i epoka w jakiej przyszło im żyć.
Twórczość literacka Pierwsza publikacja poetycka Kuzmina pt. Historia rycerza d’Alessio (1905) nie przyniosła większego zainteresowania ze strony krytyki. Dopiero o rok późniejsze Pieśni aleksandryjskie, będące owocem fascynacji starożytną Aleksandrią po podróży odbytej do tego miasta, wywołały zgodny zachwyt rosyjskich środowisk literackich.