1980年，他以安徽怀远县总分第一的成绩从怀远一中毕业。四年后，毕业于浙江大学数学系，并被分配至安徽省统计局。由于工作出色，被送往深圳大学进修。1989年1月，毕业于深圳大学研究生院，为软科学硕士。随即下海创业。
那年夏天，史玉柱自认为自己耗费9个月开发的M-6401桌面文字处理系统作为产品已经成熟，便用当时仅有的4000元家当承包下天津大学深圳电脑部。随后，他利用《计算机世界》先打广告后收钱的时间差，用全部4000元做了一个8400元的广告：“M-6401，历史性的突破”。
4个月后，他赚了100万元。拿着这笔钱，他以“蓝色巨人”IBM为目标，创办了巨人公司。“IBM是国际公认的蓝色巨人，我办的公司也要成为中国的IBM，不如就用‘巨人’这个词来命名公司。”
1991年7月，“巨人”总部由深圳迁往珠海，“珠海巨人新技术公司”升格为“珠海巨人高科技集团公司”，下设8个分公司。到1993年7月，巨人集团已成为全国第二大民办高科技企业，拥有 M-6405汉卡、中文笔记本电脑、手写电脑等5个拳头产品。
1992年，史玉柱决定建造巨人大厦。这座最初计划建18层的大厦，在众人热捧和领导鼓励中被不断加高，从18层到38层、54层、64层，最后升为70层，号称当时中国第一高楼，投资也从2亿元增加到12亿元。
1994年初，珠海巨人大厦动土，并计划3年完工。史玉柱被当选为中国十大改革风云人物。同一年，史玉柱发现，计算机发展日新月异，汉卡已经失势。他开始盯上了保健品，于是脑黄金项目诞生了。
1995年，巨人发动著名的“三大战役”，把12种保健品、10种药品、10多款软件一起推向市场，投放广告1个亿。这可能算上中国企业史上广告密集度最高的一次产品推广活动。当年史玉柱被《福布斯》列为大陆富豪第八位。
