Teenagestjernerne Alejandro Garnacho og Kobbie Mainoo scorede i første halvleg på Wembley, og United kæmpede sig derefter til en 2-1-sejr efter Citys indskiftede Jeremy Dokus sene scoring.
Det betyder, at Ten Hags hold sluttede en miserabel sæson af på en god måde og også kvalificerede sig til næste sæsons Europa League.
Optakten til den anden FA Cup-finale i træk med deltagelse af hele Manchester var domineret af snak om Ten Hags fremtid, efter at rygter fredag sagde, at han ville blive fyret uanset udfaldet i London.
United sluttede som nummer otte i Premier League - deres laveste placering siden 1990 - og røg ud af Champions League i gruppespillet.
Mens fansene festede vildt, vinkede Ten Hag til dem, mens han holdt om trofæet, men det var umuligt at se, om han sagde farvel.
Hollænderen indrømmer i slutningen af sin anden sæson som træner på Old Trafford, at han stadig ikke ved, hvad fremtiden vil bringe for ham.
"Jeg ved det ikke (om jeg bliver)," sagde han til BBC, da han fejrede Uniteds sejr i Londons solskin.
"Det eneste, jeg gør, er at forberede mit hold, udvikle mit hold, udvikle mit hold og de enkelte spillere. Det er et projekt for mig."
"Da jeg kom til, var tingene et rod. Vi er bedre nu, men langt fra der, hvor vi gerne vil være."
"Fodbold handler om at vinde trofæer. Jeg vil gerne spille den bedste fodbold, jeg vil gerne spille dynamisk fodbold, men i sidste ende skal man vinde trofæer. Jeg er meget stolt af spillerne og staben, for de har gjort et fantastisk stykke arbejde."
Ten Hag sagde, at United havde vist, hvad de kunne, når de havde et stærkere hold på banen efter en skadesplaget sæson - med Lisandro Martinez sammen med Raphael Varane i midterforsvaret.
"Jeg har sagt det hele året - når spillerne er i form, kan vi spille god fodbold," sagde han.
"En meget god præstation mod verdens bedste hold.
'Beviste en pointe'
"Lokalrivaliseringen er der, og den er meget vigtigere, når man spiller mod et hold fra sin egen by. Men for os handlede det ikke om det, det handlede om at bevise noget efter så mange tilbageslag. Holdet viste så meget modstandskraft, og jeg er stolt af dem."
Han sagde, at han følte, at kritikken af ham og hans hold havde været uretfærdig på trods af deres problemer i denne sæson.
"Vi havde ikke spillerne," sagde han. "Vi har set de samme ting, ikke altid god fodbold, bestemt ikke, men vi var nødt til at gå på kompromis hele tiden, og så kan man ikke spille den fodbold, man gerne vil.
"Jeg har måske tre eller fire gange på to år haft hele truppen til rådighed. Selv i dag manglede vi store spillere som Harry Maguire, Luke Shaw og Casemiro."
Uniteds anfører Bruno Fernandes sagde:
"Det er afgørende for alle. Vi ved, at manageren er under så stor bevågenhed, at han fortjener det her.
"Også alle i baglandet og spillerne, vi fortjener det alle sammen."