Ao chegar a esta cidade, dirigiram-se a ele os caraítas pedindo-lhe um caminho para o retorno à fé judaica normal, voltando-se para a Torá Oral. Nada, porém, conseguira Rabi Gedaliah, devido ao antagonismo dos rabinos locais, apesar de seus esforços.

Então, decidira abandonar a cidade e dirigir-se à Terra pela qual todo coração hebraico palpita: a Terra de Israel. Falecera antes de realizar seu intento, no dia do Jejum de Gedaliah (3 de tichrê), em 1487. Sobre sua lápide foram transcritas palavras honrosas, como "a primícia da humanidade", "Pai do conhecimento bíblico, pai do conhecimento de Torá e irmão da sabedoria".