哈萨克这一名称的由来说法较多，史籍早有记述。《汉书》所载奄蔡《唐书》所载可萨、萨。公元982年用波斯文写成的《世界域志》一书中，载阿兰国有kasak，这无疑是当今的哈萨克。在哈萨克语意中，“哈萨克”一词有顽强、巨大、坚强有力的意思。对哈萨克民族的起源，有多种美好的传说，如传说在远古代，有位英勇善战的青年首领名叫卡勒恰哈德尔。他在一次战斗中身负重伤，昏迷不醒。突然天空出现异彩，一只白天鹅从天而降，匍伏在其身边，用羽翼掩护着他，并向他口中滴了一滴津涎，而后把他驮到湖边喝水，吃了饭，卡勒恰哈德尔顿觉精神好转，体力恢复，伤口也很快愈合了。这时白天鹅变成了一位天仙美女，与卡勒恰哈德尔形影不离，二人生下了一个男孩，取名“kazak”（哈萨克），“kaz”意为天鹅，“ak”意为白色。后来男孩长大又生了三个小男孩，长子阿克阿尔斯，次子别克阿尔斯，幼子江阿尔斯。其后这三个阿尔斯就演变成了哈萨克历史上的大玉兹、中玉兹、小玉兹。哈萨克族是由氏族、部落、部落联盟而以展成为稳定、独立的民族。哈萨克族中的氏族部落组织，至今仍保留比较完整。据史书记载，历史上游牧于我国西北的塞种，大月氏、乌孙康居和匈努等，均为哈萨克人的先祖。到12至13世纪，又融合了陆续迁到天山北部的部分回鹘人、葛逻禄人、契丹人和蒙古兴起的先烈、乃蛮、钦察及察合台汗的蒙古人，从而形成了哈萨克族。
