הדרך לפיזורו של הגדוד נסללה כאמור וב 31 ביולי 1920 משתחררים מהשרות רוב חיילי "הגדוד הארצישראלי" וזלמן יצחק ביניהם. נשארים רק 39 חיילים ומש"קים כגרעין לגיוס גדוד חדש אבל גם זה לא קורה ובחודש מאי 1921 הגדוד מתחסל רשמית. כמו רבים מהמשוחררים, זלמן יצחק מצטרף לחבורת "גדוד העבודה" ע"ש יוסף טרומפלדור.