剛玉廣泛分布于世界各地，是在高溫、富鋁、貧硅的特殊條件下形成的。主要與巖漿作用、接觸變質作用和區域變質作用有關。剛玉是剛玉正長巖、剛玉偉晶巖、剛玉斜長巖、剛玉白云石、橄欖巖-蘇長巖復合剛玉等富鋁貧硅巖石中的主要礦物或副礦物。如果大量濃縮，就會形成沉積物。在與火山熱液作用有關的次生石英巖中發現了一個大型剛玉礦床。剛玉也存在于安山巖、玄武巖和沉積鋁土礦中。它經常出現在砂礦中。
中國河北剛玉礦床產于黑云母片麻巖中，與磁鐵礦、黑云母、白云母、鉀長石、硅線石、藍晶石等礦物共存。中國西藏的剛玉礦床以脈的形式產于輝長巖和大理巖的接觸帶中，與方解石、磁鐵礦、綠簾石和少量石英共存。據了解，國外剛玉正長巖和剛玉正長偉晶巖與堿性正長巖有成因聯系，剛玉與鉀長石、斜長石、黑云母、石榴石等礦物共生。在剛玉斜長巖中，剛玉與斜長石、少量黑云母和角閃石共存。剛玉白云巖是剛玉斜長巖的產物，斜長石和部分剛玉被珍珠云母取代。粗粒橄欖巖-蘇長巖中的剛玉與尖晶石、堿性斜長石、磁鐵礦和硅線石共生。剛玉雜巖是一種由剛玉（60~70%）、磁鐵礦、赤鐵礦和尖晶石組成的中細粒巖石。它產于酸性或堿性侵入巖和受酸性巖漿作用影響的富鋁沉積巖中，與尖晶石、磁鐵礦、赤鐵礦、鈦鐵礦、硅線石、斜長石、石英和石榴石共存。某些鋁土礦中的剛玉是勃姆石變質作用的產物。在水熱作用下，剛玉可轉變為勃姆石、硅線石、藍晶石、白云母、三水鋁石、紅柱石、尖晶石等。