Herbert Marx, později známý pod jménem Zeppo Marx, se narodil jako šestý a zároveň poslední syn Samuelu „Frenchiemu“ a Minnie Marxovým. Jejich první potomek Manfred ale v dětství zemřel, a proto měli Marxovi synů pět. Rodiče neměli peněz nazbyt, otec pracoval jako krejčí, ale nebyl příliš zručný, a proto se raději staral o domov. Minnie jezdila po turné se svým bratrem Alem Sheanem, varietním komikem. Rozhodla se, že i její synové budou vystupovat na jevišti. Herbertovi bratři Leonard (Chico), Adolph (Harpo), Julius (Groucho) a Milton (Gummo) byli o několik let starší a vystupovali jako pěvecká skupina, ještě když byl Herbert malý. Po několika letech zanechali zpěvu a začali diváky bavit.
Bratři Marxovi uspěli na jevištích kabaretů své rodné země a během svého turné dokonce i v Anglii. Po svém návratu se ale pohádali s vlivným mužem varietní scény E. F. Albeem a nemohli už vystupovat tam, kde je diváci znali a milovali. Museli si tedy najít nové působiště a tím byla Broadway. V roce 1924 zde měla premiéru jejich nová hra „I'll Say She Is“, která běžela téměř dva roky. Další komedie „Kokosové ořechy“ se dočkala téměř čtyř set repríz. V roce 1927 se Zeppo oženil s herečkou Marion Benda.
S příchodem zvukového filmu se bratři vydali do Hollywoodu, aby zde natočili adaptaci své hry KOKOSOVÉ OŘECHY (1929). Byl to jeden z prvních zvukových snímků studia Paramount. Tento ohromný úspěch byl ale následován nepříjemnými událostmi. Matka Minnie je navždy opustila. Navíc téhož roku začala velká hospodářská krize a Marxovi přišli o téměř celý majetek. I přesto následovaly další filmy pro Paramount - ANIMAL CRACKERS (1930), OPIČÁRNY (1931), HORSE FEATHERS (1932). Poslední jmenovaný se stal jejich doposud největším hitem. Marxovi se objevili na obálce časopisu „Time“ a získali svou hvězdu na hollywoodském chodníku slávy. Roku 1933 zemřel jejich otec Samuel.
Satirická komedie KACHNÍ POLÉVKA (1933) je dodnes považována za jeden z nejdůležitějších snímků světové kinematografie. Je to jediné dílo bratří Marxů, které bylo zapsáno mezi sto nejlepších filmů všech dob. I přes úspěch všech prvních pěti filmu se Zeppo stále cítil být ve stínu svých bratrů. Nikdy nedostal šanci, po níž toužil - dostat vtipnou roli. Groucho vždycky říkal, že Zeppo byl ve skutečnosti tím nejzábavnějším z nich.