Johann von Holten var født i Wilster, hvor han blev døbt den 11. november 1689. Om hans barndom ved vi kun, at han sammen med sin store søskendeflok fik en god kristelig opdragelse i forældrenes hjem i Wilster. Hvor han har stået i lære ved vi ikke, men hans håndværkeruddannelse fik den sidste afpudsning i Wien, hvor han opholdt sig i 1717, samme år som han kom kom til København, hvor han de første par år arbejdede som svend. Sit mestersvendeår stod han hos sin landsmand Niels Orthmann, en af datidens dygtigste snedkermestre, og den 8. april 1720 blev han selv mester, 31 år gammel. Han specialiserede sig i finere arbejde, navnlig trapper, og han arbejdede meget sammen med den berømte arkitekt Nicolaj Egtved, bl.a. ved opførelsen af det første Christiansborg Slot og Prinsens Palæ. Han stod også i personlig forbindelse med Egtved, idet denne var fadder til flere af hans børn.
Holten blev efterhånden en velhavende mand; i 1732 købte han en ejendom i Silkegade, nuværende nr. 5, hvor han flyttede ind sammen med sin broder Jacob von Holten, der var sølvsmed, og som indrettede sit et værksted i gården. Ved sin død 5. august 1760 efterlod han sig, foruden huset og en pæn sum penge, et kostbart indbo.
Johann von Holten var gift i alt 3 gange, første gang den 17. maj 1720 med Christina Rasmusdatter, der var 13 år ældre end han; hun døde allerede i 1737. Den 23. april 1738 ægtede han Dorthe Kirstine Jensdatter Sahl, født 1708, datter af sognedegn i Øster Hornum Jens Christensen Sahl. Hun døde efter knap 10 års ægteskab og blev begravet 18. marts 1748 i København. Kort tid efter, den 23. november 1748, giftede Johann von Holten sig for tredje gang med Marie Dahl, født 1707 og død 25. april 1770.