Ludanicové
Už Jan z Pernštejna, který od roku 1534 spravoval sám všechno pernštejnské jmění, se potýkal s vážnými hospodářskými obtížemi, ohrožujícími stabilitu rodového majetku, a po jeho smrti v roce 1548 se už rozklad, vyvolaný především přepínáním úvěru, nedal zastavit. Pernštejnové museli své statky rozprodávat a jednou z prvních obětí počínajícího rodinného bankrotu se stalo Helfštýnské panství. Roku 1554 je koupil Půta z Ludanic, potomek šlechtické rodiny ze Slovenska, která se na Moravě usadila ve druhé polovině 15. století a domohla se tam rychle zámožnosti a vlivného postavení.
Po jeho smrti se roku 1560 ujal Helfštýna jeho syn Václav z Ludanic, někdejší moravský zemský hejtman. Éra Ludaniců na Helfštýně však trvala jen krátce, protože Václav z Ludanic zemřel ve Vídni roku 1571 a jedinou dědičkou celého majetku se stala pětiletá Václavova dcera Kateřina z Ludanic. Správy statků se ujal tehdejší moravský zemský hejtman Zachariáš z Hradce z telčské linie pánů z Hradce jako poručník. Velkorysý mecenáš renesančních staveb se v tomto případě projevil jako chamtivý podvodník a obohatil se na Kateřinině dědictví takovým způsobem, že nemohl zabránit veřejnému skandálu a soudnímu vyšetřování. Kateřina z Ludanic byla přesto považována za bohatou dědičku, a proto byla vyhlédnuta za manželku pro Petra Voka z Rožmberka. Provdala se za něho roku 1580 ve věku čtrnácti let a Helfštýn se stal znovu součástí velké rodové enklávy, tentokrát rožmberské. Ležel příliš daleko od hlavního jádra rožmberských statků v jižních Čechách a Petr Vok měl značné potíže s jeho správou a s dohledem na špatné úředníky. Dojížděl sice každoročně s manželkou na Moravu, podpořil stavbu bratrského sboru v Lipníku, ale hrad a panství mu příliš k srdci nepřirostly. Po špatných zkušenostech s nesnadným hospodařením se rozhodl Helfštýn prodat. To už dluhy na panství dostoupily výše 80 000 zlatých a velký výnos se nedal očekávat. Roku 1592 koupil Helfštýnské panství s hradem Hynek Bruntálský z Vrbna za 120 000 míšeňských kop (tj. 120 000 zlatých rýnských).