Джек Килби родился 8 ноября 1923 года в Джефферсон-Сити в семье владельца электрической компании. Мальчик пошел по стопам отца, и после школы начал изучать электротехнику в Иллинойсском университете.

В 1947 году после окончания университета он принимается за работу в фирме по производству электронных компонентов. В 1958 году Килби переезжает в Даллас и устраивается в «Тексас инструментс». Именно здесь он начинает работать над уменьшением электронных компонентов и предлагает решение – интегральную микросхему.

Килби вошел в совет директоров компании и до самой смерти занимался изучением цифровой обработки сигналов. Джек Килби также является изобретателем карманного калькулятора.

За свои заслуги Килби является почетным доктором многих университетов, получил медаль Баллантайна, премию Сарнова, премию Зворыкина Национальной инженерной академии, премию Брунетти и другие почетные научные награды.

В 1982 году имя Килби занесено в американский Национальный зал славы для изобретателей. В 2000 году Килби получил также Нобелевскую премию по физике за своё изобретение интегральной схемы в 1958 году в период работы в Texas Instruments.

Джек Килби умер 20 июня 2005 года в Далласе (США).