Родившись в Уолл Лэйк, Уиллиамс пел в церковном хоре, а позже создал квартет вместя с тремя своими братьями. Группа выступпала на радиостанциях среднего запада, а потом переехала в Лос Анжелес попробовать себя в шоу-бизнесе. The Williams Brothers Quartet появились на Bing Crosby в 1944 с хитом Swinging on a Star, и также выступили с комедийной актрисой Кэй Томпсон (Kay Thompson) в конце 40-ых.
Окончательно свою сольную карьеру Энди Уиллиамс начал в 1952, выступив несколько раз на Steve Allen's Tonight Show, перед тем как подписать контракт с Archie Bleyer's Cadence Records в 1956. Уже через год его второй сингл для компании Canadian Sunset попал в десятку лучших. Еще через год кавер-версия пенси Butterfly "самородка рокабилли" Чарли Грасье (Charlie Gracie) продержалась три недели на первом месте. Также в десятке лучших успели побывать песни Are You Sincere, Lonely Street и The Village of St. Bernadette, до того, как Уиллиамс перебрался Коламбию в 1961.
Несмотря на выпущенный в 1963 еще один большой хит Can't Get Used to Losing You, Уиллиамс в целом не появлялся в хит-парадах синглов в течение 1960. Но зато его популярные концертные выступления в эстрадной программе на NBC-TV вызвали высокий спрос на его записи среди аудитори старшего и среднего возраста.
Знаменитый альбом 1962 года Moon River and Other Great Movie Themes дал жизнь песне, котороя стала своего рода визитной карточкой певца, в следующем году Days of Wine and Roses провел 16 недель на вершине чартов по альбомам. Еще девять альбомов Уиллиамса попали в десятку лучших в течение 60-х, многие из которых отличались своей разноплановостью (от Бродвейских мюзиклов до лиричных баллад), и один альбом был посвящен членам его семьи. Хотя альбом Love Story в 1971, одноименный хит с которого попал в десятку, стал платиновым, его выступления по телевидению были прекращены в этом же году.