1944. december 21−22-én a Debrecenben megalakult Ideiglenes Nemzetgyűlés és az Ideiglenes Nemzeti Kormány az elsők között vette napirendre és tárgyalta meg a rendőrség újjászervezését. Az új szervezetnek elsődlegesen politika- és közrendészeti feladatokat kellett ellátnia. Mint ismeretes, ez végül két helyszínen, két kommunista vezetővel indult meg: az Erdei Ferenc belügyminiszter által megbízott kommunista Tömpe Andrással Debrecenben és a kommunista párt, valamint a szovjet vezetés támogatását élvező Péter Gáborral Budapesten. Ennek a kettősségnek lett az eredménye, hogy az 1945 májusában kihirdetett kormányrendelettel megalakult a Tömpe vezette Magyar Államrendőrség Vidéki Főkapitányságának Politikai és Rendészeti Osztálya és a Péter Gábor által parancsnokolt Magyar Államrendőrség Budapesti Főkapitányságának Politikai és Rendészeti Osztálya.
Weinhardt János 1944. november elejétől 1945. január végéig a Budapest II. Kapás utca 46. szám alatti nyilaskeresztes pártházban fegyveres pártszolgálatosként teljesített szolgálatot. Részt vett üldözött személyek előállításában, kifosztásában, megkínzásában és a Duna-parton történő törvénytelen kivégzésében.