Как отмечалось выше, боевые действия, завершившиеся в 1949 году, стерли Палестину с карты мира и разрушили палестинское общество. Более 700 000 палестинцев стали беженцами. Лишенные возможности вернуться в свои деревни, большинство из которых вскоре были сровнены с землей израильскими бульдозерами, палестинские беженцы рассеялись по соседним арабским странам, причем значительная их часть оказалась на Западном берегу и в секторе Газа. Однако их общее настойчивое требование права на возвращение придало новую форму палестинскому национальному самосознанию. Ближневосточное агентство ООН для помощи палестинским беженцам и организации работ (БАПОР) сыграло важную роль в предоставлении услуг, особенно в сфере образования. Созданное в 1949 году для оказания помощи, БАПОР постепенно взяло на себя больше обязанностей в области образования и здравоохранения. Но тот факт, что средства к существованию беженцев в основном зависели от доброй воли различных принимающих государств, привел также к политической и социальной фрагментации палестинцев. Например, в Ливане, где около 150 000 палестинских беженцев угрожали нарушить хрупкий демографический баланс, на котором строилась государственная система пропорционального конфессионального представительства, ливанское общество интегрировало больше палестинских христиан, чем палестинских мусульман. Пропорционально сектор Газа принял наибольшее число беженцев: его 80 000 жителей, которые в 1948 году перешли под военное управление Египта, приняли 200 000 беженцев. Только Иордания предоставила беженцам гражданство: для короля Абдаллы получение контроля над важными мусульманскими святынями Старого города Иерусалима и усиление его веса в регионе полностью оправдывали аннексию новообразованного Западного берега со всеми его лагерями беженцев. Ресурсы и рабочая сила Западного берега шли главным образом на развитие Восточного берега.
В 1964 году создание Организации освобождения Палестины (ООП) дало палестинцам новый ориентир для политического самосознания. Ее хартия призывала к созданию арабского государства Палестина на всей территории мандатной Палестины, объявляя ее «неделимым территориальным целым», а создание Израиля — «незаконным, недействительным и ничтожным». Когда на первом арабском саммите была создана ООП, в этом процессе приняли участие многие видные палестинцы, однако у них возникли сильные подозрения из-за явного подчинения организации президенту Египта Насеру. Эффективность организации как национального института еще сильнее ограничивалась противодействием короля Иордании Хусейна, который усматривал в ней угрозу своим притязаниям на суверенитет над Западным берегом и его жителями. Тем временем другие палестинские группировки также организовывались с целью взять под контроль собственную борьбу против Израиля. Самой важной из этих групп была ФАТХ (в переводе с арабского — «завоевание»), основанная в Кувейте в 1959 году во главе с Ясиром Арафатом.
Способность Арафата вывести ООП из-под опеки арабских государств и взять под контроль организацию в целом стала прямым результатом их поражения в июне 1967 года. Война серьезно ослабила контроль арабских государств над палестинской деятельностью и нанесла удар по легитимности прежнего руководства ООП. В марте 1968 года ФАТХ развернула партизанские действия на Западном берегу с баз в иорданских деревнях. После того как израильская карательная операция против деревни Караме встретила яростное сопротивление партизан, поддержанных иорданской армией, сражение при Караме (название на арабском означает «честь» или «достоинство») стало символом героического сопротивления. Популярность ФАТХ после этого резко возросла, вызвав стремительный приток добровольцев, пожертвований и оружия. Нося черно-белую клетчатую куфию (головной платок), Арафат стал публичным лицом палестинского партизанского движения. В 1969 году он был избран председателем ООП (эту должность он занимал до своей смерти в 2004 году). В 1974 году на арабском саммите в Рабате ООП получила признание как единственный представитель палестинцев. И позже в том же году Арафат выступил на Генеральной Ассамблее ООН, а ООП получила статус наблюдателя.
В духе современных ей радикальных антиколониальных движений, Палестинская хартия 1968 года сделала особый упор на вооруженную борьбу как на стратегию, а не просто тактику, и, следовательно, как на единственный способ добиться освобождения Палестины. Она отвергала притязания сионизма на любую часть Палестины, признавая иудаизм только как религию, а не как национальность. Выбор организацией пути вооруженной борьбы способствовал мобилизации палестинцев и привлек внимание мировой общественности к их бедственному положению. Но ООП была зонтичной организацией, и роль ФАТХ, хотя и доминирующая, не была бесспорной. Учитывая разрозненность палестинцев, Арафат предпочитал объединять под широким крылом все фракции, у некоторых из которых были совершенно разные цели, а не ставить во главу угла дисциплину и послушание. Его упорный отказ противостоять более жестоким методам, которые использовали мелкие радикальные группировки (таким как теракт против израильских спортсменов на Мюнхенской олимпиаде 1972 года и захват в 1985 году итальянского пассажирского судна «Акилле Лауро», в ходе которого был убит еврейско-американский турист), подрывал легитимность палестинского движения и укреплял на мировой арене образ палестинцев как террористов. Это также приводило организацию к конфликтам с соседними принимающими странами, такими как Иордания и Ливан. Отношения между арабскими правительствами и палестинским национализмом были крайне изменчивыми: как правило, риторика правящих режимов, ратовавших за освобождение Палестины, подкреплялась лишь ограниченной помощью либо стремлением подчинить движение собственным интересам.