Ze względu na pełnione przez Grawitza funkcje w okresie III Rzeszy, jego nazwisko jest związane z praktycznie wszystkimi zbrodniami dokonanymi przez hitlerowskie służby medyczne. W 1941, gdy Niemcy postanowili dokonać masowej eksterminacji europejskich Żydów, to on doradził Himmlerowi użycie komór gazowych jako najbardziej skutecznego sposobu przeprowadzenia „ostatecznego rozwiązania”. Następnie podległe mu służby współdziałały z innymi instytucjami hitlerowskimi w prowadzonym wyniszczaniu Żydów. Grawitz jest także w bezpośredni sposób związany ze wszystkimi pseudoeksperymentami medycznymi dokonywanymi na więźniach niemieckich obozów koncentracyjnych. Wydawał rozkazy ich przeprowadzania, nadzorował je, a o wynikach meldował Heinrichowi Himmlerowi. W szczególności Grawitz ponosi odpowiedzialność za eksperymenty związane z przetrwaniem ludzi w ekstremalnych środowiskach, eksperymenty zdrowotne (infekowanie więźniów obozów koncentracyjnych różnymi chorobami), wojskowe (testowanie broni na więźniach, infekowanie ich ran bronią chemiczną i truciznami) czy sterylizację kobiet. Efektem ogromnej większości tych eksperymentów była śmierć niewinnych ludzi lub ich trwałe okaleczenie.