We wczesnym średniowieczu tereny Ostródy i okolic zamieszkiwane były przez plemiona pruskie Pomezanów, o czym świadczą licznie odnalezione grodziska, w których zebrano materiał archeologiczny w postaci ceramiki. Ziemie te zostały w XIII wieku podbite przez Krzyżaków, którzy postawili tu zamek, wokół niego zaś rozwinęła się osada. Po bitwie pod Grunwaldem miasto wraz z zamkiem zostało poddane królowi Władysławowi Jagielle, wkrótce przystąpiło do antykrzyżackiego Związku Pruskiego, w 1466 zaś zostało włączone do Rzeczypospolitej. Wtedy to na ziemiach tych pojawiła się polska ludność napływowa z Mazowsza i Ziemi Chełmińskiej.

XVII wiek przyniósł miastu serię nieszczęść związanych z wojnami, głodem i epidemiami, podobnie było w kolejnym stuleciu, w 1807 podczas wyprawy Napoleona na wschód, zamek ostródzki stał się na pewien czas kwaterą główną wodza. W 1844 roku rozpoczęto budowę słynnego kanału łączącego Elbląg i Ostródę, który nazywano wówczas Kanałem Oberlandzkim. W 1872 roku do miasta doprowadzono linię kolejową, w 1912 zaś wybudowano lotnisko, zlikwidowane siedem lat później. W wyniku plebiscytu z 1920 ludność ostródzka zdecydowała w większości o pozostaniu pod panowaniem niemieckim. Choć w trakcie II wojny światowej miasto nie ucierpiało wiele, po wkroczeniu w 1945 r. wojsk radzieckich zostało zniszczone w ponad 60%. W tym samym roku Ostróda została przekazana pod administrację polską. Jej początkowa nazwa brzmiała Ostród, obecną nadano jej w roku 1946.