刚玉在世界各地分布广泛,在高温富铝贫硅的特殊条件下形成。主要与岩浆作用、接触变质和区域变质作用有关。在富铝贫硅的刚玉正长岩、刚玉伟晶岩、刚玉斜长岩、刚玉珠云岩、橄榄苏长岩杂刚玉岩等岩石中,刚玉是主要矿物或主要副矿物,若大量集中则形成矿床。在与火山热液作用有关的次生石英岩中找到规模较大的刚玉矿床。刚玉还产出于安山岩、玄武岩及沉积铝土矿里。在砂矿床中常有产出。
我国河北的刚玉矿床产于黑云母片麻岩中,与磁铁矿、黑云母、白云母、钾长石、硅线石、蓝晶石等矿物共生。我国西藏刚玉矿床呈脉状产于辉长岩与大理岩的接触带中,与方解石、磁铁矿、绿帘石及少量石英共生。已知国外刚玉正长岩、刚玉正长伟晶岩在成因上与碱性正长岩有关,刚玉与钾长石、斜长石、黑云母、石榴石子等矿物共生。在刚玉斜长岩中,刚玉与斜长石,少量黑云母、角闪石等共生。刚玉珠云岩是刚玉斜长岩的变化产物,其中斜长石和部分刚玉被珍珠云母取代。在粗晶橄榄苏长岩中的刚玉,与尖晶石、基性斜长石、磁铁矿、硅线石共生。杂刚玉岩石由刚玉(60~70%)、磁铁矿、赤铁矿、尖晶石所组成的细-中粒岩石,产于酸性或碱性侵入岩及受酸性岩浆作用的富铝沉积岩中,与尖晶石、磁铁矿、赤铁矿、钛铁矿、硅线石、斜长石、石英、石榴石子等共生。某些铝土矿中的刚玉是水铝石变质的产物。刚玉在热液作用的影响下,可转变为水铝石、硅线石、蓝晶石、白云母、三水铝石、红柱石、尖晶石等。