Ele vinha procurando o túmulo desde 1972.
Yaako Kalman, um arqueólogo que participou das escavações, disse à BBC que vários fragmentos do sarcófago estava espalhados pelo local.
Ele disse que a equipe se convenceu de que se tratava da tumba de Herodes pela descrição deixada pelo historiador judeu do século 1 Flavius Josefus.
Herodes é retratado como o responsável pelo Massacre dos Inocentes, de acordo com relato bíblico de Mateus.
O rei teria mandado matar todos os meninos com menos de dois anos de idade em Belém e arredores por volta da época do nascimento de Jesus.
De acordo com o Novo Testamento, o pai de Jesus, José, foi alertado para uma ameaça em um sonho e fugiu com a mulher e a criança para o Egito.
Palácio
Herodes construiu um palácio em uma colina em Herodium, e há muito acreditava-se que ele foi enterrado lá.
Herodes foi indicado governador da Galiléia aos 25 anos de idade e feito "Rei dos Judeus" pelo Senado romano, mantendo-se no cargo por cerca de 34 anos.
Ele ampliou o templo de Jerusalém e construiu as muralhas da cidade e a fortaleza de Masada, foco de resistência de rebeldes judeus em 73 d.C.
Se a descoberta for confirmada, será uma das maiores da arqueologia, de acordo com o correspondente da BBC em Jerusalém, Tim Franks.
Especialistas supunham que o rei tinha sido enterrado em algum lugar dentro do complexo do palácio que construiu, mas tinham dificuldade em encontrar evidências para apoiar tal teoria.