Polański zamierzał sam zagrać chłopaka, toteż prosił usilnie Bossaka o pozwolenie na odtworzenie tej roli, jednak spotkał się z odmową. Nieusatysfakcjonowany rolą Malanowicza reżyser podłożył pod jego kwestie dialogowe swój głos; także głos Umeckiej zastąpiono innym – głosem Anny Ciepielewskiej.
Polański, który w tamtym okresie chętnie żeglował, tak wspomina powstawanie filmu:
Zdjęcia do Noża w wodzie rozpoczęły się w lipcu 1961 roku, a jako plenery wykorzystano Giżycko, Mikołajki oraz jeziora: Mikołajskie, Kisajno, Jagodne i Śniardwy. Ekipa filmowa przebywała w spartańskich warunkach. Kamerę Arriflex umocowano na pływającej platformie, a na osobnej łodzi usadowiła się ekipa elektryków i oświetlaczy. Zdjęcia do filmu były trudnym zadaniem, ze względu na zmienną pogodę na Mazurach. Nieustannie zmieniające się zachmurzenie nieba nie sprzyjało zachowaniu ciągłości ujęć, jednak Lipmanowi udało się uchwycić zdjęcia na łodzi w taki sposób, aby widz nie zauważył zmian pogody. Jeszcze większym wyczynem Lipmana było to, że zdołał nakręcić materiał filmowy z ręki, mimo że operował w skrajnie trudnych warunkach. W filmie początkowo został wykorzystany Mercedes W120, ale ekipa otrzymała polecenie, że nie wolno wykorzystywać tej marki, więc zastąpiono go samochodem Peugeot 403.