Билли Тейлор родился 24 июля 1921 года в Гринвилле, штат Северная Каролина(США). С детства он интересовался музыкой. В 1938-1942 годах Тейлор был студентом Государственного колледжа штата Вирджинии. В 1942 году он поступил в университет Массачусетса на отделение музыкальной педагогики.

Однако уже через год Билли Тейлор приехал в Нью-Йорк, где начал работать в оркестрах и музыкальных коллективах. Он выступал с Беном Уэбстером и Диззи Гиллеспи, сотрудничал со Стаффом Смитом и Эдди Саутом.

В 1945 году Тейлор вновь приезжает в Нью-Йорк, где начинает работать в оркестре Мачито. Через год он едет на гастроли в Европу с бэндом дона Рэдмена.

Тейлору довелось играть со многими известными джазовыми музыкантами 20 века – Чарли Паркером, Арти Шоу, Кэем Виндингом, Джо Джонсом. В 1951 году талантливый музыкант стал постоянным пианистом клуба «Birdland», где аккомпанировал Лестеру Янгу, Ли Коницу, Стэну Гетцу, Диззи Гиллеспи, Рою Элдриджу, Милту Джексону...

В 1950-е годы Билли Тейлор занялся преподаванием. С 1959 года он активно работает на радио и телевидении. В 1965 году Тейлор успешно провел серию лекций-концертов на улицах Нью-Йорка. В 1969-1972 годах музыкант руководил оркестром, созданным для телепрограммы «Шоу Дэвида Фроста».

В 1981 году, будучи уже одним из самых значительных джазовых музыкантов и композиторов, Билли Тейлор удостоился чести стать почётным доктором школы Беркли в Бостоне и почетным гражданином Вашингтона.

В 1985 году он работал на телевидении в Нью-Йорке, выпустив серию передач «Контрапункт». В начале 1980-х годов Тейлор посетил Россию.

Билли Тейлор умер 2 сентября 1986 года в Фэйрфаксе (штат Вирджиния, США).