Народився в [[Ізмаїл|Ізмаїл]]і. Після наказу про виселення євреїв з прикордонної смуги з батьками переїхав у м.[[Балта|Балту]] [[Подільська губернія|Подільської губернії]], де рано захопився [[анархізм|анархістськими]] ідеями, кілька разів піддавався арештам і брав участь у [[Революція 1905—1907|першій російській революції]]. У [[1905]] році нелегально емігрував до [[Румунія|Румунії]]. У [[1908]] році заарештований у [[Відень|Відні]] за спробу пограбувати банк. Здійснив втечу після 4-місячного ув'язнення і переїхав у [[Будапешт]], де був заарештований за спробу пограбувати ресторан. Після цього був висланий із [[Австро-Угорщина|Австро-Угорської імперії]]. Свої злочини виправдовував анархістськими переконаннями. У 1910—1914 роках жив у [[Париж]]і. На початку [[Перша світова війна|Першої світової війни 1914—1918 років]] вступив у французький [[Французький іноземний легіон|Іноземний легіон]]. Був нагороджений орденом Бойового Хреста (Croix de guerre) — найвищої нагороди Легіону. У [[1916]] році внаслідок поранення був демобілізований. 1917 року після важкого поранення в ході [[Битва на Соммі|битви на Соммі]] і лікування був демобілізований. У серпні 1917 року, після [[Лютнева революція|Лютневої революції]], разом із дружиною повернувся до [[Росія|Росії]]. Спочатку працював годинникарем у Балті. Версію, начебто в січні 1919 року в Одесі Шварцбард вступив у Червону армію і до середини 1920 року в лавах бригади Котовського брав участь у бойових діях Громадянської війни в Україні, не підтверджують дослідники{{sfn|Савченко|2009|с=124.}}. Після придушення політичної опозиції розчарувався в Радянській владі і знову поїхав до Парижа, де відкрив годинникову майстерню. Незабаром з'ясувалося, що всі члени його сім'ї (всього 15 чоловік) були вбиті в результаті хвилі єврейських погромів, що відбулися на Україні в 1918—1920 роках{{sfn|Czerny|2001|pp=57—71.}}.
