Pierwszy zamek krzyżacki został wzniesiony z drewna w II połowie XIII w. Nowy zamek stanął w miejscu dawnego grodu pruskiego w latach 1316-1331. Początkowo na zamku rezydował prokurator krzyżacki, a potem wójt.Chociaż zamek położony jest w bardzo dogodnym miejscu do obrony został w 1410 r. zdobyty przez wojska Władysława Jagiełły, by rok później wrócić do krzyżaków na mocy I pokoju toruńskiego.Obiekt w 1414 r. został ponownie zdobyty przez wojska polskie i poważnie zniszczony, jednak wrócił do zakonu i został rozbudowany i wzmocniony. W 1437 r. zamek stał się siedzibą komtura oraz przeniesiono do niego sąd ziemski.
Jednak wkrótce warownia została zdobyta przez mieszczan z Elbląga w czasie wojny trzynastoletniej, po czym ponownie odbity przez Krzyżaków, a następnie był oblegany przez wojska polskie, jednak udało się zdobyć tylko obszar przedzamcza.Począwszy od 1508 r. zamek znajdował się w rękach biskupów pomezańskich, a od 1521 r w rękach prywatnych rodzin von Egmon i von Werdte. W 1626 r. właściciele Przezmarku poparli Szwedów i udostępnili im zamek w celu zaopatrywania się w żywność. Przez cały XVIII i XIX w. obiekt mieścił Urząd Ziemski, jednak był poważnie zaniedbywany, a proces jego upadku został przypieczętowany, gdy pod koniec XVIII stulecia rozpoczęto rozbiórkę murów w celu pozyskania materiału budowlanego na folwark i zbór ewangelicki.W 1958 r. wieża i zachowane obiekty zostały zaadoptowane na ośrodek wczasowy.Obecnie zamek jest w rękach prywatnych, którym opiekuje się przesympatyczne małżeństwo. Właściciel (na zdjęciu),w ramach swoich możliwości finansowych odnawia wieże, sprowadza do zamku eksponaty i prowadzi ośrodek wypoczynkowy. Polecam. Województwo pomorskie.