Народився близько 340 року в місті Тревір в багатій і знатній римській родині. Після смерті батька сім'я переселилася до Риму, де він здобув освіту. У 373 році Амвросій був призначений на посаду префекта північної Італії з резиденцією в Медіолані (нині Мілан), який був тоді другим містом Італії після Риму.
Медіолан під час намісництва Амвросія трясли чвари між аріанами та православними. У 374 році ці чвари завадили обранню нового єпископа, оскільки кожна сторона хотіла бачити на цьому місці свого ставленика. Як компроміс була запропонована кандидатура Амвросія, який користувався повагою в місті. Амвросій, який навіть не був хрещений, намагався відмовитись, але після підтримки його кандидатури імператором Валентиніаном I погодився. 30 листопада 374 року Амвросій був охрещений, потім висвячений на священника і 7 грудня поставлений єпископом, пройшовши за 7 днів усі ступені церковної ієрархії.
Однією з головних сфер діяльності єпископа Амвросія була боротьба з аріанством та язичництвом. До кінця життя єпископ Амвросій користувався всенародною любов'ю. Християнські джерела повідомляють про численні чудеса, здійснені святителем. Під його керівництвом у Мілані було збудовано дві базиліки.
Помер святитель Амвросій 4 квітня 397 року у Велику суботу.
В Свято-Вознесенському чоловічому монастирі знаходиться ікона з часточкою святих мощей святителя Амвросія Медіоланського.