Давным-давно, до Ринужи, в тех краях также существовало поселение, находившееся возле Старой Даугавгривской крепости. Ничем особенным посёлок примечателен не был, кроме небольшой деревянной церкви, да и ту оставили на произвол судьбы после постройки нового храма, Белой Даугавгривской церкви.
Задолго до этого, в начале XIII века, цистерианские монахи, жившие как раз в той крепости, или монастыре святого Николая, оказались недовольны постоянными весенними половодьями, поэтому решили прорыть ров для быстрого отвода воды из Кишезерса. Но и это не помогло, поэтому была построена мельница. От неё и получила своё название протока «Mülhgraben» (Мельничная канава).
Из существующих посёлков самый почтенный возраст у Ринужи: он давно перевалил за три с половиной столетия, потому же там находится и старейшее кладбище Риги, основанное ещё в XVII веке. Есть сведения, что примерно тогда же, в 1626 году, в Ринужи появилась первая церквушка. 17 сентября 1788 года после долгих мучений (в 1786 году, перед самим освящением, у неё упала башня) была наконец освящена Белая Даугавгривская церковь. Теперь у рыбаков появился ориентир в виде фонарика-маяка, который был и остаётся в крыше колокольни. Посёлок был невелик: не более четырнадцати домов, зато строительство храма повлекло за собой и более стремительный рост. Предыдущий храм вскоре естественным путём развалился, но окрестность хранила название «Посёлка у старой церкви» вплоть до ХХ века.
Поблизости в 1876 году открылась Мангальская мореходка первой категории, которая с 1891 года уже готовила капитанов дальнего плавания, потому что была переоценена и удостоена третьей, высшей, категории. В 1901 году ей построили новое здание, на которое даже Министерство финансов выделило 2 900 рублей, жертвовали и частные лица; здание просуществовало всего лет пятнадцать и было поглощено огнями Первой Мировой. Перед этим само учебное заведение эвакуировали в Геленджик.
Всё же вплоть до конца XIX века Вецмилгравис был весьма отдалённым и забытым районом, кое‑где попадались рыбацкие хижины, к востоку от Милгрависа находилось Мангальское имение, но в целом он был малозаселён. Более менее активное развитие пришлось на конец того же века, когда в 1887 году сюда перебрался начинающий предприниматель из Кенгарагса Август Домбровский (1845—1927). Наверное, место ему приглянулось после первой удачной сделки: переправы плотов по маршруту будущего переселения. Как первопроходец, он основал лесопилку, открыл элементарную школу, детский сад (первый в Европе именно для детей рабочих определённого предприятия), давал выгодные кредиты на постройку жилья. В 1909 году там проживало уже двести человек.
Август Домбровский никогда не пил спиртное, поэтому в 1904 году основал общество трезвости «Ziemeļblāzma». Он делал замечательные скрипки, которым даже в конце жизни посвятил книгу. В целом, он слишком выделялся на окружающем фоне, поэтому — для профилактики — в 1905 году решено было сжечь дом общества, а самого чудака расстрелять. Последнего, впрочем, удалось избежать.
Но и такие крайние меры не пресекли его желание работать на благо района. Такое усердие было вознаграждено: с 27 октября 1989 года 4. линия Вецмилгрависа носит имя мецената, а до этого так же назывались в своё время и нынешние улицы Мартас Ринкас и Скуяс; сам же Домбровский назвал в честь дочерей улицы Эммас, Милдас и Мелидас. Ещё много полезных заведений он понастроил до Первой Мировой войны, но у большинства на слуху два объекта: новый дом общества трезвости и «Burtnieku nams».
В 1871 году при устройстве аванпорта в Яунмилгрависе в Вецмилгрависе возвели батарею, в 1913 году открыли военную судоверфь. Со времён Домбровского уцелело весьма мало зданий, большинство было снесено при возведении жилого микрорайона в 70‑ых и 80‑ых годах ХХ века.
Вецмилгравис и Калнциемс, что возле «Зиемельблазмы», были включены в состав Риги в 1924 году, Ринужи — в 1946-ом. С 1952 по 1954 год район был рабочим посёлком вне города.