Portugiseren stopper således med øjeblikkelig virkning, skriver klubben tirsdag morgen på sin hjemmeside.
Mourinho og Roma indledte samarbejdet i maj 2021, og i sommeren 2022 førte han holdet til sejr i den første udgave af Conference League, som er den tredjebedste europæiske turnering.
I sin anden sæson førte han sit hold frem til Europa League-finalen, hvor de tabte til Sevilla, men problemerne i ligaen skabte spændinger mellem ham og bestyrelsen, og de spændinger blev kun større i denne sæson, hvor holdets form kun blev værre.
"AS Roma kan bekræfte, at Jose Mourinho og hans trænerstab forlader klubben med øjeblikkelig virkning," siger klubben i en meddelelse.
"Yderligere opdateringer om den nye trænerstab for førsteholdet vil følge snarest."
Aktuelt ligger Roma nummer ni i Serie A.
Den danske landsholdsback er en del af truppen i Roma. Han kom til fra engelske Leeds i sommer på en lejeaftale.