Son père, Walter B. Boykin, était charpentier et devint plus tard prédicateur. Sa mère, Sarah, était domestique et mourut d’une crise cardiaque alors qu’Otis n’avait qu’un an; cet événement l’inspira à contribuer à l’amélioration du stimulateur cardiaque. Boykin fréquenta le lycée Booker T. Washington à Dallas, où il obtint son diplôme avec les félicitations du jury en 1938. Il poursuivit ses études à l’université Fisk grâce à une bourse, travailla comme assistant de laboratoire au laboratoire aérospatial voisin de l’université, et quitta l’établissement en 1941.
Boykin s’installa ensuite à Chicago, où il trouva un emploi de commis à l’Electro Manufacturing Company. Il fut plus tard embauché comme assistant de laboratoire à la Majestic Radio and Television Corporation, où il gravit les échelons jusqu’à devenir contremaître. En 1944, il travailla pour les laboratoires de recherche P.J. Nilsen. En 1946-1947, il étudia à l’Illinois Institute of Technology, mais abandonna ses études après deux ans. Certaines sources affirment qu’il n’avait pas les moyens de payer les frais de scolarité, mais il déclara plus tard qu’il était parti pour trouver un emploi et n’avait pas eu le temps de reprendre ses études.
L’un de ses mentors fut le Dr Denton Deere, ingénieur et inventeur à la tête de son propre laboratoire. Un autre mentor fut le Dr Hal F. Fruth, avec lequel il collabora à plusieurs expériences, dont une portant sur une méthode plus efficace pour tester les unités de commande de pilotage automatique des avions. Les deux hommes s’associèrent ensuite et ouvrirent un laboratoire de recherche en électronique à la fin des années 1940.
