235년 황제가 군인들에게 살해된 뒤 약 50년 동안 군대가 마음대로 황제를 세우고 죽였다. 이 시기를 3세기의 위기라 부른다. 동쪽에서는 새로 일어난 사산 왕조 페르시아가 쳐들어와 260년 발레리아누스 황제를 사로잡았고, 북쪽 국경에서는 게르만 부족들이 밀려들었다. 은화에 은을 점점 덜 넣어 물가가 치솟았고, 전염병도 돌았다.
한때 제국은 서쪽의 갈리아 제국, 동쪽의 팔미라(여왕 제노비아)로 갈라졌다. 270년대 아우렐리아누스 황제가 이들을 다시 합쳤지만, 로마 시는 불안 속에 새 성벽을 쌓아야 했다.
284년 즉위한 디오클레티아누스는 너무 넓은 제국을 혼자 다스릴 수 없다고 보고, 293년 황제 2명과 부황제 2명이 나눠 다스리는 4두 정치를 만들었다. 속주를 잘게 나누고 군대를 늘렸으며, 301년에는 물가를 법으로 묶으려 했다. 303년에는 기독교인을 대대적으로 박해했다. 그는 305년 스스로 물러나 지금의 크로아티아 스플리트의 궁전으로 은퇴했다.