W dniu 13 grudnia 1949 został mianowany przewodniczącym Komitetu Koordynacyjnego Służb Wywiadu, powołanego w celu wzmocnienia kontroli rządu nad nękanymi rozgrywkami personalnymi izraelskimi organizacjami wywiadowczymi, koordynacji ich działań i sprecyzowania zakresu ich kompetencji. Funkcję tę piastował do 1953. Jednym z posunięć ówczesnego premiera Dawida Ben Guriona, zmierzających do przełamania kryzysu wewnętrznego izraelskich służb wywiadowczych i gruntownej ich reorganizacji, było utworzenie w 1951 służby wywiadu zagranicznego Mosadu, którego szefem odpowiedzialnym bezpośrednio przed premierem został Sziloah. Podczas swej krótkiej kadencji zdołał wprowadzić w Mossadzie pewne standardy i zasady działania, lecz skuteczność operacyjna jego agentów, podobnie zresztą jak sposób zarządzania budżetem służby, pozostawiały wiele do życzenia. Trwające w łonie izraelskich służb wywiadowczych rozgrywki kompetencyjne i personalne, a także kłopoty zdrowotne Sziloaha, związane z wypadkiem samochodowym, jakiemu uległ w połowie 1952, skłoniły go do rezygnacji ze stanowiska we wrześniu tego roku (1952).