在与南卡罗来纳州政治家和第七任副总统约翰·卡尔豪（John C. Calhoun）的女儿安娜·玛利亚·卡尔豪（Anna Maria Calhoun）结婚之后，托马斯·格林·克莱姆森（Thomas Green Clemson），克莱姆森大学的创始人，在1838年来到了南卡罗来纳。当克莱姆森先生在1888年去世的时候，他把从自己的大部分地产，以他的意愿建立了一个致力于为南卡罗来纳州居民提供农业科学和机械工程教育的学院。

在他的遗嘱里，克莱姆森先生明确指出，他希望自己的学校去效仿密西西比农学院，也就是现美国密西西比州立大学：“This institution, I desire, to be under the control and managementof a board of trustees, a part of whom are hereinafter appointed, and to bemodeled after the Agricultural College of Mississippi as far as practicable.” 

他的决定主要是受到了时任南卡罗来纳州州长本杰明·蒂尔曼（Benjamin Tillman）的影响。蒂尔曼当时游说南卡罗来纳州的立法机关建立一个州立农学院但这个决议离通过仅仅差了一票。

1889年，南卡罗来纳州州长约翰·彼得·理查德森三世（John Peter Richardson III）签署了建立南卡罗来纳州克莱姆森农学院的法案。因此，土地拨赠法案和1887年的哈奇法案中的农业教育联邦资金也从南卡罗来纳学院转移到了克莱姆森农学院上。

克莱姆森农学院于1893年7月正式建立，并招收了第一批446名学生。从那以后，这个学院就一直是一个白人男子军事学校。直到1955年，该校才回归平民化，并成为男女同校的学校。