Jego ojciec Harry Carey był gwiazdą westernów epoki niemej. Przyjaźnił się z Johnem Fordem, w którego pierwszym filmie pt. Celny Strzał (1917) zagrał rolę Chayenne Harry'ego. Senior syna wychowywał na wielkim ranchu w Kalifornii i ciągał po planach filmowych, nic więc dziwnego, że i jego szybko odnalazły obiektywy westernowych kamer. W trakcie II Wony Światowej służył w oddziałach walczących na Pacyfiku, ale wbrew swojej woli został ściągnięty do pracy przy realizacji filmów dokumentalnych, które kręcił przyjaciel jego ojca John Ford. Po wojnie Junior grywał w filmach kowbojskich na przestrzeni pięciu dekad najczęściej partnerując na planie Benowi Johnsonowi i Johnowi Wayne'owi. Swoje najbardziej pamiętne role zagrał w westernach Johna Forda: Trzech Ojców Chrzestnych (1948), Nosiła żółtą wstążkę (1949), Droga do San Juan (1950), Poszukiwacze (1956), Jesień Czejenów (1964).