Para os israelitas Jerusalém é indivisível e para os palestinianos Jerusalém Oriental seria a capital palestiniana. Até à data prevista nenhum acordo foi feito e Arafat resolveu adiar a declaração de independência. Os conflitos que se geraram depois levaram Barak a abandonar o cargo. Eleições em Fevereiro de 2001 deram a Ariel Sharon a vitória. O novo primeiro-ministro declarou que a sua prioridade seria a segurança de Israel. Arafat manifestou vontade de continuar as negociações de paz. Os conflitos armados continuaram, alguns deles de extrema violência. O assassinato do ministro israelita do Turismo, Rehavam Zeevi, num hotel em Jerusalém Oriental, provocou uma série de confrontos, agravando desta forma qualquer tentativa de acordo de paz. Também o ataque terrorista aos EUA a 11 de Setembro de 2001 veio agravar a ruptura nos acordos de paz no Médio Oriente.

Em 2002 Netanyahu desafiou Sharon nas eleições para chefe do partido, Likud, mas perdeu. Sharon foi reeleito nas eleições gerais em 2003.
Novo acordo de paz foi apresentado pelos EUA, Rússia, União Europeia e Nações Unidas para a criação de um Estado palestiniano e restabelecimento da paz até 2005. Neste mesmo ano, uma grande decisão nesse sentido foi tomada em Conselho de Ministros por Ariel Sharon, a retirada de colonatos israelitas da Faixa de Gaza. Esta atitude levou à demissão de Benjamin Netanyahu, ministro das finanças do governo de Sharon e seu grande opositor dentro do partido, por achar que essa decisão só contribui para o aumento do terrorismo islâmico. O mandato de Ariel Sharon terminou em 2006 devido a problemas graves de saúde. Um acidente vascular cerebral fez com que entrasse em coma em Janeiro. Em Abril, foi declarado inapto para o cargo e substituído oficialmente pelo seu sucessor Ehud Olmert.