哥大的著名校友包括5位美国开国元勋、10位美国最高法院大法官、20位亿万富翁、20位奥斯卡奖获得者、29位美国州长、34位国家元首等。哥伦比亚大学拥有世界一流的法学院、商学院、新闻学院等，其新闻学院颁发的普利策奖（Pulitzer Prize）是美国新闻界的最高荣誉。据统计，有101位诺贝尔奖得主（其中学生校友43名）曾在哥大工作或学习过，数量位列世界第5。哥伦比亚大学是美国重要的研究机构之一，是北美第一个实现原子核裂变－曼哈顿计划的诞生地。

关于在纽约省创建一所高等学府的讨论开始于1704年。然而，直到位于哈德逊河对岸新泽西的普林斯顿大学创建以后，在纽约市创建新学院的想法才得到了认真的对待。1746年，一个为新学院筹集资金的法令在纽约省议会得以通过。1751年，纽约省议会组成了一个包括七名英格兰教会成员在内的十人委员会，该委员会的职责是对这一新学院的成立进行指导，成立所需的经费则来源于发行州彩票筹集的资金April。

学校于1754年7月正式开课，首任校长为神学博士萨缪尔·约翰逊。约翰逊博士也是学院第一届仅有八名学生的唯一导师。授课在现在位于曼哈顿下百老汇大道的三一教堂旁的新校舍进行。随后，这所纽约州最早成立的高等教育机构，美国境内的第五所大学，正式根据乔治二世国王的《王室特许状》以国王学院之名于1754年10月31日成立。对于国王学院来说，1776年爆发的美国独立战争是一个灾难性的事件。学校的教学活动从1776年大陆军进入纽约开始暂停了八年，包含了纽约被英军军事占领的整个期间，直到英军1783年正式从纽约撤离。学校的图书馆被洗劫，惟一的建筑物先被大陆军，后被英军征用为军医院。学校被革命者占领以后，学校的王室支持者被迫离开了国王学院。