Przyswoił sobie również elementy jaskrawej kolorystyki Henriego Matisse’a, który był jego nauczycielem przez krótki okres w 1908 roku. Po odwiedzeniu pracowni Pabla Picassa przyswoił sobie również strukturalne założenia kubizmu. Spotykał się z Guillaume’em Apollinairem, Robertem Delaunayem oraz Leo i Gertrude Stein. Zaprzyjaźnił się z Henrim Rousseau, organizując później pierwszą wystawę jego prac w Stanach Zjednoczonych. Był także jednym z pierwszych Amerykanów, który uświadomił sobie znaczenie sztuki prymitywnej, studiując w tym celu zbiory etnograficzne w paryskich muzeach.
Po powrocie do Nowego Jorku w 1909 roku Weber znalazł się w ścisłym gronie amerykańskich modernistów, których prace eksponowano w galerii 291 Alfreda Stieglitza; w niej też miał swoją pierwszą wystawę indywidualną w roku 1911. Jego twórczość spotkała się jednak z krytycznym przyjęciem, jednym z najbardziej bezlitosnych, jakiego kiedykolwiek doznał amerykański artysta. Nawet James Huneker, wpływowy krytyk, który zazwyczaj starał się być przychylny nowej sztuce, użył żartu, aby opisać swoje wrażenia po obejrzeniu dzieł Webera: „Operacja zakończyła się sukcesem, ale pacjent zmarł”. Wcześniej, w 1910 roku Weber opublikował esej o czwartym wymiarze;