Już w roku następnym wysłano go do montażu wielkiej rotundy i innych elementów ekspozycji na światową wystawę w Wiedniu. W tamtym okresie opublikował Scharowsky również tabele obliczeń wagi żelaza walcowanego (Tabellen zur Gewichtsberechnung von Walzeisen und Eisenkonstruktionen). Publikacja ta już za jego życia doczekała się pięciu wydań. Po wystawie światowej w Wiedniu prowadził budowy szeregu mostów, do których prace obliczeniowe oraz montażowe zostały mu powierzone. Wśród nich były m.in. most przez Łabę w Riesa w Saksonii (na zdjęciu) czy most Taborbrücke na Dunaju w Wiedniu.
Na początku 1875 został mianowany szefem montażu Harkort’sche Fabrik. W tym czasie pracował przy wznoszeniu kolejnych mostów. 1 kwietnia 1876 odszedł z firmy Harkortwerke i założył wraz ze wspólnikiem doktorem Wilhelmem Rudolfem Proellem firmę Dr. Proell & Scharowsky. Było to biuro inżynierskie, w którym Scharowsky rozwinął swoją karierę na nowym obszarze nauki. W tym celu ponownie zaczął uczęszczać na wykłady w Politechnice w Karlsruhe, zdając w 1877 w Dreźnie egzamin i uzyskał uprawnienia architekta rządowego (Regierungsbaumeister).