W 1970 za reżyserię produkcji off-broadwayowskiej Zbrodnia w White House Farm zdobył nagrodę Obie.

Arkin i jego druga żona Barbara Dana pojawili się razem w programie edukacyjnym dla dzieci Ulica Sezamkowa (1970–1971) jako Larry i Phyllis, komiczna para, która rozwiązuje swoje konflikty, gdy pamięta, jak wymówić słowo „współpracować”. Arkin i Dana wystąpili potem w sitcomie ABC Harry (1987), który po czterech odcinkach został zdjęty z anteny z powodu niskiej oglądalności.

Został dwukrotnie honorowany Nagrodą Genie za rolę architekta Jeffreya Martleya w komedii Nieprawidłowe kanały (1981) i jako Reuben Shapiro w komediodramacie Teda Kotcheffa Joshua dawniej i dziś (1985).

Początkowo miał zagrać Saula Blooma w remake’u Ocean’s Eleven: Ryzykowna gra (2001) Stevena Soderbergha;