Хотя Базельский конгресс 1897 года общепризнанно считается вехой, ознаменовавшей появление последовательной политической программы, сионизм никогда не был монолитным движением. Представление Герцля о сионизме прежде всего как о международной дипломатической (или политической) инициативе встретило противодействие со стороны ряда групп. Один из вызовов исходил от евреев, которые за десять лет до Первой мировой войны, отбросив дипломатические условности, эмигрировали в Палестину. Их обычно называют рабочими сионистами; они отстаивали важность поселенческой работы в противовес международной дипломатии. Второй серьезный вызов возник в 1920-х годах, когда Владимир Жаботинский основал Ревизионистскую партию с четкой целью обретения государственности военным путем.

Стоит более подробно рассмотреть те различные роли, которые сыграли сторонники как политического, так и рабочего сионизма. Что касается Герцля, то его настойчивое утверждение о невозможности ассимиляции в Европе и о том, что евреи могут находиться в безопасности только в собственном государстве, было продиктовано скорее современными национальными идеологиями, нежели традиционными религиозными представлениями. Его основная стратегия заключалась в том, чтобы заручиться политической поддержкой со стороны какой-либо великой державы и финансовой помощью европейского еврейства. По сути, он строил свои планы по образцу тогдашних европейских колонизаторских инициатив. Герцль утверждал, что масштабное предприятие по переселению на заморские территории, подобное тому, что предусматривалось Базельской программой, никогда не сможет увенчаться успехом, пока не будет получена «хартия» от какой-либо великой державы. Он тратил массу времени на организацию аудиенций с высокопоставленными государственными чиновниками по всей Европе (включая российского царя и османского султана), но эти усилия не принесли существенных результатов. Примечательно, что в 1903 году стремление найти немедленное убежище для евреев, находившихся под угрозой новой волны погромов, побудило Герцля рассмотреть предложение Великобритании о колонизации части Восточной Африки. Сделка расколола сионистское движение, оттолкнув тех сионистов, которые стремились к поселению исключительно в Палестине. Восточноафриканский проект умер вместе с Герцлем в 1904 году, после чего успешные поиски могущественного покровителя пришлось отложить до появления новых дипломатических путей, проложенных Первой мировой войной.

Тем временем более практичные деятели принялись закладывать основы сионистской общины на земле Палестины. К 1914 году в Палестине проживало около 85 000 евреев, из которых около 35 000 прибыли за последние десятилетия. Этот период иммиграции состоял из двух волн переселения, известных на иврите как алиот (отдельная волна — алия). Понятие алии («восхождения») фундаментально для сионистского принципа, согласно которому еврейское государство должно служить родиной для всех евреев мира: эмиграция из Израиля называется йерида, или «схождением». Условия для поселения в Палестине были крайне шаткими, и первая алия (1882–1903) столкнулась с серьезными трудностями. Многие поселенцы в итоге уезжали после недолгого пребывания. Те общины, которым удалось выжить, уцелели главным образом благодаря опоре на относительно дешевую арабскую рабочую силу и филантропии богатых европейских евреев. Напротив, более значимая вторая алия (1904–1914) постепенно пришла к твердому намерению создать в Палестине обособленное общество, построенное на еврейском труде. Эти две группы нередко конфликтовали между собой.

Главная проблема, с которой столкнулись рабочие сионисты второй алии, заключалась в том, как создать фермерские хозяйства, достаточно жизнеспособные, чтобы обеспечить уровень жизни, способный привлечь непрерывный поток иммигрантов из Восточной Европы. Поиск ответа у второй алии занял время, но выработанные в итоге решения сыграли решающую роль в закладке основ еврейского государства четыре десятилетия спустя. В своей книге «Земля, труд и истоки израильско-палестинского конфликта, 1882–1914» Гершон Шафир описывает, как, с одной стороны, конкуренция с более низкооплачиваемыми местными рабочими, а с другой — стремление найти работу для еврейских иммигрантов побудили лидеров второй алии попытаться разделить арабское и еврейское общества и их экономику. Из этой стратегии развилось движение кибуцев — программа поселения, основанная на кооперации между еврейскими иммигрантами.

Замена арабских рабочих еврейскими, обычно именовавшаяся «завоеванием труда», обосновывалась также необходимостью формирования новой общей еврейской идентичности, связанной с землей. В сионистском националистическом этосе возвращение к земле было способом отвергнуть опыт жизни в диаспоре. «Завоевание труда» шло рука об руку с идеей «завоевания земли». Чтобы приобрести — или, выражаясь квазирелигиозным языком того времени, «искупить» — землю Палестины, Пятый сионистский конгресс, проходивший в Базеле в 1901 году, учредил Еврейский национальный фонд (ЕНФ). Шафир цитирует Менахема Усышкина, президента ЕНФ и одну из главных движущих сил в вопросе приобретения земель евреями:

Чтобы создать автономную еврейскую общинную жизнь — или, точнее говоря, еврейское государство в Эрец-Исраэль, необходимо прежде всего, чтобы вся или по крайней мере большая часть земли Эрец-Исраэль перешла в собственность еврейского народа. Без владения землей Эрец-Исраэль никогда не станет еврейской, какова бы ни была численность евреев в городах и даже в деревнях, и евреи останутся в том же самом ненормальном положении, которое характеризует их в диаспоре.