את לימודי המוסיקה התחיל מאוחר בחייו, ועיקרם היה עם המוסיקולוגים שלמה רוזובסקי ודוד שור. החלטתו לעבור מלימודי משחק ללימודי מוסיקה נעשתה בעקבות מפגשו עם המלחין יואל אנגל בתיאטרון ה'אהל'. לאחר פטירתו של אנגל ב-1927 המשיך זעירא את קשריו עם המלחין שלמה רוזובסקי, שכתב גם הוא מוסיקה עבור אותו תיאטרון (ל'יעקב ורחל'). זעירא עבד אז במפעלי ים המלח ובמשך כשנה עלה בסופי שבוע לירושלים אל ביתו של רוזובסקי, כדי ללמוד אצלו. בתמורה העתיק עבורו זעירא תווים, לצורך מחקר אודות טעמי המקרא שכתב אז המלחין. בעידודו של רוזובסקי התוודע זעירא למוסיקה של מגוון העדות היהודיות בירושלים, כדי להכיר את "מקורות" המוסיקה היהודית מהם ישאב בעתיד. כמו כן, הוא למד גם אצל הפרופ' דוד שור - בהרצאות פומביות ובשיעורים פרטיים, שהפרופסור (שהבחין בכשרונותיו, והיה ער למצבו הכלכלי) לימד אותו בחינם, בביתו.

פסנתר לא היה ברשותו בראשית דרכו, והוא נאלץ לשרוק או להשתמש במסרק עטוף בנייר סיגריות כדי לשמוע את הצלילים, ולהקיש באצבעותיו את מקצב הלחן. פעמיים רכש פסנתר (ב-1935 וב-1939) ופעמיים הוא נלקח ממנו, כיון שלא עמד בתשלומים מסיבות שונות. הפסנתר עלה 45 לא"י והתשלום החודשי היה בן לירה אחת. כשעבד כפועל בחברת החשמל, הייתה משכורתו היומית 30 גרוש, והוצאות המחיה של משפחתו לא איפשרו לו להחזיק בפסנתר לאורך ימים. הבעייה נפתרה רק ב-1948, כשפרופ' חיים הלפרין הביא לביתו שירים להלחנה, והופתע לגלות שאין בו פסנתר. הוא יזם הסכם בין זעירא לבין המרכז החקלאי (שבראשו עמד) וההסתדרות, בו ירכשו המוסדות את הפסנתר בכספם, והוא ישלם להם את תמורתו, בין היתר, בהרצאות ובערבי שירה שיערוך עבורם.

ב-2010 ,שנים רבות לאחר מות המלחין, תרמו בני משפחתו את הפסנתר לחדר הסימינריונים בחוג למוסיקולוגיה של אוניברסיטת בר אילן לשימוש הסטודנטים.