O porta-voz do governo iraniano, Gholam Hossein Elham, admitiu que Larijani havia oferecido sua renúncia diversas vezes ao presidente Ahmadinejad.
Larijani era o principal interlocutor do Ocidente nas negociações sobre o programa iraniano, que críticos acusam de servir a fins militares. Teerã afirma que o programa tem fins civis.
Para o correspondente da BBC em Teerã, Jon Leyne, a renúncia de Larijani é "uma surpresa total e significativa".
"É um segredo público que ele tinha grandes diferenças com o presidente Ahmadinejad em relação a como tratar o programa nuclear iraniano. Larijani também apóia o programa, mas se mostra mais inclinado a negociações", disse o repórter.
"A sua renúncia sugere que os linha-dura estão aumentando seu poder no Irã."
Larijani será substituído pelo vice-ministro do Exterior, Saeed Jalili, um conhecido aliado do presidente Ahmadinejad.
Ele se encontrará na terça-feira com o chefe da diplomacia européia, Javier Solana, em Roma.