W czerwcu 1971 roku wraz z żoną Elizą Grochowiecką i Zbigniewem Hołdysem założył własny zespół – Andrzej i ElizaAndrzej i Eliza – Bibliotekapiosenki.pl. Od 1974 w zespole występował również brat artysty – Jerzy Rybiński. Z zespołem współpracowali także m.in.: Ryszard Kaczmarek, Henryk Krzeszowiec, Eugeniusz Mańko, Janusz Staszek, Ryszard Sygitowicz, Stanisław Witta, Marcin Zienkiewicz, Arkadiusz Żak. W 1971 roku zespół Andrzej i Eliza, tak jak zespół 2 plus 1, zadebiutował na 9. Krajowym Festiwalu Piosenki Polskiej w Opolu z utworem pt. Wstawanie wczesnym rankiem. Koncertował również w Austrii, Belgii, Bułgarii, RFN, Stanach Zjednoczonych, ZSRR.
Dalsza kariera Po rozpadzie zespołu Andrzej i Eliza w lipcu 1981 roku Andrzej Rybiński rozpoczął karierę solową. Nagrał w tym czasie kilka przebojów, takie jak m.in.: Nie liczę godzin i lat (II Nagroda w konkursie Premier na 20. Krajowym Festiwalu Piosenki Polskiej w Opolu – ex aequo z utworem pt. Szklana pogoda w wykonaniu zespołu Lombard), Pocieszanka, Znajdę cię.
W 2008 wystąpił w roli cinkciarza w filmie Małgosia contra Małgosia.
We wrześniu 2024 dołączył do zespołu redakcyjnego Radia Pogoda, w którym prowadzi codzienną audycję „Najpiękniejsze melodie Andrzeja Rybińskiego w Radiu Pogoda”.