Nadzorował następnie powstanie wstępnych wymagań taktyczno-technicznych dla przyszłych okrętów podwodnych OORP „Orzeł” i „Sęp” oraz wyjechał ponownie do Francji w celu rozpatrzenia ofert na budowę tych okrętów podwodnych, jako przewodniczący komisji. Dochodząc do wniosku na podstawie własnych obliczeń, że wybrana jako najkorzystniejsza oferta stoczni Ateliers et Chantiers de la Loire podaje zafałszowane korzystniejsze parametry (m.in. stateczność) w stosunku do rzeczywistych i jest realnie niewykonalna, a także podpisana jest sfałszowanym przez francuską stocznię nazwiskiem znanego inżyniera Simonota, wycofał swoje podpisy na protokole wyboru oferty i zgłosił ten fakt zwierzchnikom. Kierownictwo Marynarki Wojennej unieważniło przetarg, a po rozpisaniu nowego przetargu wybrało stocznie holenderskie. Niemniej jednak bezkompromisowa postawa kmdr. por. Rylkego nie spotkała się z uznaniem zwierzchników, dbających o dobre stosunki z Francją. Z dniem 30 czerwca 1934 został przeniesiony w stan spoczynku.