Od 1862 pracował w służbach porządkowych w Nowym Jorku, lecz w 1868 najął się do pracy przy kolei (Union Pacific Railroad). Zdobył tam przezwisko "Rzeczny Niedźwiedź" (Bear River).

W 1870 został mianowany szeryfem w Abilene. Zdecydował się, aby wprowadzić zakaz posiadania broni. Po 48 godzinach wszyscy mieli zwrócić broń do jego biura - skutkiem tej decyzji było zabicie dwóch bandytów, którzy nie chcieli zastosować do tego nakazu.

W czasie urzędowania Smith miał wiele problemów z kowbojami z Texasu, ponieważ niechętnie oddawali broń w czasie przyjazdu do miasta. Pewnego razu zabił trzech z nich w pojedynku w saloonie - "Old Fruit Saloon". Jednakże przypadki takie były sporadyczne, gdyż większość ludzi "bała się jego pięści".

W listopadzie 1870 wyruszył w pościg za dwójką ludzi podejrzanych o morderstwo. Zanim zdążył ich aresztować został postrzelony, po czym zadano mu śmiertelny cios siekierą. Po jego śmierci, Abilene stało się ponownie dzikim i niebezpiecznym miastem. Miało to się zmienić wiosną 1871, kiedy to szeryfem został Dziki Bill Hickok.