serwery nie komunikują się ze sobą. Jeśli klient chce ustawić lub odczytać wartość odpowiadającą danemu kluczowi, najpierw oblicza hash klucza do określenia serwera, który będzie użyty. Następnie kontaktuje się ze serwerem, który oblicza drugi hash klucza do określenia miejsca przechowywania wartości. Jeśli wszystkie biblioteki klienta używają tego samego algorytmu mieszania w celu ustalenia serwerów, to klienci mogą czytać nawzajem swoje dane w pamięci podręcznej, co jest pożądane.
Serwer utrzymuje klucze w RAM jedynie, gdy działa lub rekord jest na tyle często używany, że nie jest kasowany zgodnie z algorytmem . Dlatego nie powinno się zakładać, że jak nadejdzie potrzeba odczytu lub zapisu, to nadal będzie istnieć w Memcached. Istnieje projekt MemcacheDB będący kompatybilny z protokołem Memcached, który trwale przechowuje dane.
Typowe wdrożenia mają kilka serwerów i wielu klientów. Jednakże możliwe jest użycie Memcached na jednej maszynie, działając jednocześnie jako klient i serwer.