원정에서 돌아온 알렉산드로스는 바빌론을 제국의 중심으로 삼고 아라비아반도 원정을 준비했다. 그러나 기원전 323년 6월, 며칠 동안 고열에 시달리다 숨졌다. 그의 나이 32세였다.
죽음의 원인은 지금도 확실하지 않다. 말라리아나 장티푸스 같은 병, 오랜 전쟁의 부상과 과음이 겹친 결과라는 견해가 많고, 독살설도 있지만 증거는 없다. 기원전 324년 가장 친한 친구 헤파이스티온을 잃은 충격도 컸다고 전한다.
알렉산드로스는 뚜렷한 후계자를 정해 두지 않았다. 아내 록사네는 임신 중이었고, 이복형제는 정신적으로 다스릴 능력이 부족했다. 그는 그리스에서 인더스강까지 이르는 제국을 남겼지만, 그 제국은 장군들 사이의 다툼으로 곧 갈라졌다.