W gorącej wodzie kąpany
Urodził się 17 stycznia 1882 r. na Manhattanie, w rodzinie bogatego żydowskiego przedsiębiorcy Abrahama Rothsteina, który kilka lat wcześniej przybył do Stanów Zjednoczonych, uciekając z ojczystej Rosji przed antysemickimi pogromami. Ojciec Arnolda zaczynał od sprzedaży szytych w domu czapek, ale szybko został jednym z największych nowojorskich producentów odzieży bawełnianej, bardzo szanowanym w środowisku żydowskim. Zyskał przydomek „Abe Sprawiedliwy”, ponieważ często zwracano się do niego, by rozstrzygał rozmaite spory.
Arnold miał starszego brata, o którego przez całe dzieciństwo był zazdrosny, żyjąc w przekonaniu, że Harry jest faworyzowany przez rodziców. A to przecież on zawsze chciał być w centrum zainteresowania, dlatego wszelkie frustracje wyładowywał w gronie kolegów. Był jednak szanowany przez rówieśników za mistrzostwo w grze w kości, jej zasad nauczył się ponoć od ojca. „Grałem, od kiedy pamiętam, ponieważ zawsze kochałem emocje. Kiedy gram, nic innego nie ma znaczenia” – mówił po latach.