颜惠庆于1877年4月2日出生在上海虹口的一个基督教家庭里。其父亲颜永京是上海虹口区圣公会教区牧师，也是圣约翰大学的创办者之一。颜惠庆早年就读于圣约翰书院、英华书塾、同文书院。 1885年，他与内地会的教友结伴去美国读书。

1897年，颜惠庆高中毕业后，进入弗吉尼亚大学学习。大学期间，他有机会担任主日学学校的老师，这给他带来很好的体验。颜惠庆也加入了基督教青年会，但因为他觉得基督教青年会对宗教活动不够重视，于是他就在维吉尼亚州的一个乡间教会成立了儿童主日学学校。每个星期日，颜惠庆都会与一位同学骑自行车前往这个乡间礼拜堂，教导一班儿童。

在大学的几年当中，颜惠庆每个星期日都会徒步到镇上的礼拜堂做礼拜。他还参加各个宗派的聚会，如圣公会、长老会、监理会、浸信会等宗派的聚会。他也会与同宿舍的一位天主教同学去往天主教堂做礼拜。

夏天的时候，颜惠庆也会与同学来到当地的小镇消夏。他与大学的同学、当地圣公会的牧师的儿子在一起，参加所有乡村里的活动，比如跳舞、游泳、爬草堆、野餐、主日崇拜等。

1900 年，颜惠庆终于在维吉尼亚大学修满了文学学士学位所要求的所有课程，得到了学士文凭。他是这个大学历史上第一位从中国来的留学生，也是所有在这个学校留学的外国学生中第一个顺利毕业，取得文凭的人。

1900年8月，颜惠庆离开了美国。当时他仅凭领事馆秘书出具的一份介绍公函，就先前往加拿大，然后从加拿大乘船踏上回国的路程。当他抵达上海之时，正值八国联军攻入北京。他就与其大哥全家在上海同住。至此，颜惠庆的学习生涯结束，即将踏上自力更生的人生阶段。

由于颜惠庆是幼年时期离开中国，去美国求学，在美期间都是用英文来学习的，等到回国之后，已经是成年的他对于身边的许多事物都不熟悉，甚至连上海方言都讲不清楚了。

回国后不久，颜惠庆到梵王渡面见圣约翰大学的校长。面谈之后，他被圣约翰大学聘为负责大学和中学两部的教员，月薪为一百银元，这对于一个新任大学教员来说是很高的待遇。除教学外，颜惠庆经常参加很多课外的活动——到学生主办的文学会演讲，担任当地辩论会、运动会的裁判员等。此外，颜惠庆还利用业余时间来学习国文。为此他请了专门的中文老师，参照当时影响力很大的新闻报纸《万国公报》来学习中文。

1905年，上海的《南方报》增设英文版报纸，报道时事新闻。颜惠庆应该报刊聘请担任英文编辑。

1906年，颜惠庆参加了清政府举行的针对留学欧美毕业生的考试，获得第二名的成绩。此后他被政府安排到学部工作，同时仍然担任大学的教师，并参与编撰中英词典《英华标准双解大辞典》。

由于颜惠庆具备英文能力，不久他应征担任伍轶庸先生出使美洲的使馆二等参赞，负责处理一些英文案件。在美国期间，颜惠庆在乔治·华盛顿大学系统进修了外交理论和国际法知识，并加入美国国际法学会。

1910年，颜惠庆回到国内之后，第三次来到北京，进入外务部工作，先后担任外务部主事、参议。

辛亥革命之后，颜惠庆代表袁世凯造访各国驻华公使，获得各国的支持，因此取得了袁的信任和赏识，不久获任外交部次长。

1912年，孙中山先生辞去参议院的职位，不久又发生了兵变，袁世凯出任临时大总统。新内阁组成时，颜惠庆被提拔为北洋政府唐绍仪内阁的外交部次长，后来又升任为总长和内务总长。

1913年，颜惠庆携家人前往欧洲，出任驻德国、瑞典、丹麦三国公使。

1916年，正在德國任職的顏惠慶遭遇到第一次世界大戰的爆發，親眼目睹了戰爭時期德國人民缺衣少食的慘況。

1919年，顏惠慶以顧問身份參加中國代表團，出席了巴黎和會。

1920年（民國9年）顏惠慶回國。同年8月至1922年，顏惠慶奉大總統徐世昌之命出任外交總長，任內基本採取親英美路線，重視對日本的交涉，尤其是有關山東問題的交涉。1921年5月，恢復和德國的邦交。同年12月18日，顏惠慶任代理國務總理；1922年6月12日顏惠慶正式出任國務總理。1923年，顏惠慶又擔任財政整理委員會委員長，北京外交使團領袖公使。

1924年，顏惠慶擔任農商總長。任內，他盡全力改進工作，為節省開支，他裁掉多餘的人員；改組商標局，盡力爭取外國對於中國商品的信任度；召集國內的工商界代表，一起討論國內的工商問題。

1927年，顏惠慶擔任南京國民政府駐美公使。

1928年之後，由於張作霖攻入北京，顏惠慶搬遷至天津。在天津，他被邀請參加幾家公司的董事會，包括大陸銀行董事長、天津自來水公司董事長。除此之外，顏惠慶也擔任南開大學的董事會主席。

顏惠慶於1932年至1936年出席了聯合國大會，代表中國在國聯大會上提交了日本侵略中國提案，促請國聯大會和行政院制裁日本。

1937年，日本開始侵華戰爭。當國家處於危難之時，顏惠慶四處奔走，領導萬國紅十字會，在上海主持難民和傷兵的救治工作。

1939年，顏惠慶以國民政府特使身份再度赴美擔任駐美公使，兩次拜見美國總統羅斯福，為中國爭取到大量的美國援助。

1940年12月，顏惠慶從舊金山返國，居住於香港。太平洋戰爭爆發後，日本佔領香港，顏惠慶被軟禁。期間他拒絕了日方要其出任親日政府職務的要求，後被逮捕解往上海關押。

1945年抗日戰爭勝利後，顏惠慶擔任了上海市參議員、聯合國遠東救濟與復興委員會主席，還當選為第一屆中華民國立法委員。

1949年2月，顏惠慶受代總統李宗仁的派遣，前往西柏坡同中國共產黨和談。和談失敗後，顏惠慶返回上海。中共攻佔上海前，他留在上海，拒絕隨國民黨撤離。

1949年以后，颜惠庆担任中国人民政治协商会议全国委员会委员、政务院政法委员会委员、华东军政委员会副主席。 1950年5月24日，颜惠庆因心脏病病逝于上海，享年74歳。