史说前赵先号汉王。刘渊，字元海，乃匈奴人。名犯高祖庙讳，故称其字焉。初，汉高祖以宗女为公主，以妻冒顿，约为兄弟，故其孙子遂冒姓刘。元海父名约，为左贤王，然皆家于晋阳、汾涧之滨。妻呼延氏，无嗣，乃备牲酒至龙门祈子。
嘱讫，俄而有一大鱼，头有二角，轩鬐朱须，跃鳞浮至祭所，久之乃去。巫觋皆异之，贺曰：“此乃嘉祥，必生贵子。”及回，是夜梦其所见之鱼化为一人，左手把一物，大如半鸡子，光亮非常，授与呼延氏曰：“此是日精，服之生贵子。”呼延氏服之，寝而告刘约。约曰：“此乃吉征也。”果有孕，十三月生元海，左手文有其名，遂以名焉。幼好学，尤好《左传》、《孙吴兵法》，略皆诵之，《史》、《汉》诸子无不综览。尝谓同门生曰：“吾辈观书传，尝鄙隋陆无武，绛灌无文。道由人弘，一物之不知者，固君子之所耻也。”于是遂学武事，妙绝于众。猿臂善射，膂力过人，仪伟，人皆敬之。
渊既为左贤王，聚集宗室饮宴。当从祖刘宣指刘渊谓众族人曰：“自汉亡以来，我单于徒有虚号，无复尺土。自余王侯，降生编户。今吾众虽衰，犹不减二万，奈何敛手受杀，奄过百年？今左贤王英武超世，天苟不欲兴匈奴，必不虚生此人也。
今司马氏骨肉相残，四海鼎沸，复呼韩邪之业，此其时也。
众昆侄曰：“谨听约束。”于是刘宣乃相与谋，推刘渊为大单于。宣又曰：“今议已定，不能归国，将若之何？”班部中转出一人，姓胡名延攸，言如瓶泻，口若悬河。言曰：“某愿见皇太弟司马颖，以三寸不烂之舌，说其令大王归国如何？”宣曰：“得君高论，说得还乡，大事济矣。论将安出？”攸遂近宣附耳低言数句，宣大喜曰：“妙矣！”言讫，使攸来见皇太弟颖。颖正坐府堂，忽胡延攸至，言讫立在一边。其时正值王浚、东赢公腾起兵攻颖，颖遣将拒战，皆败而还，延攸将此情由人说曰：“今闻王浚、东赢公腾二子在外为乱，屡次与战不利。
今左贤王祖在匈奴已故，今欲回国奔丧，命臣告知殿下，请为殿下还国，就说匈奴五部国王以兵来救国难，同讨二子，则二竖之首可指日而悬国门也。不知殿下以为如何？“颖闻其说，大悦，乃诺攸曰：”就拜他左贤王为北单于，参丞相军事，你可令他速去速回，不必面君，吾自奏知。“于是攸归告刘渊。
渊次日辞颖，因说颖曰：“今二镇跋扈，恐非宿卫及近郡士卒所能御也。臣请还国，说五部来救国难，可克二贼。”颖曰：“吾欲奉乘舆还洛阳，传檄天下以逆顺制之，何如？”渊曰：“殿下武皇帝之子，有大勋于王室，恩威远著。王浚竖子，东赢疏属，岂能与殿下争衡耶？但殿下一废邺宫，示弱于人，洛阳不可得，虽至洛阳，威权不复在殿下也。勉抚士众，靖以镇之，渊为殿下以五部可讨二人也。”颖大悦，乃拜渊为北单于，领丞相军事。
因是渊辞颖，与攸召集宗人所部即忙起行。至左城国，刘宣与众立渊为大单于，招军买马，积草聚粮，二旬之间，得胡晋之兵二十余万。当宣谓群臣曰：“昔汉有天下之初，恩结于民，吾汉氏之甥，约为兄弟。今兄亡弟绍，不亦可乎！不如建号大汉，汝等以为何如？”群臣曰：“大善！”于是乃建国号曰“汉”，推左贤王为汉王，改元元熙元年，追尊汉安乐公为孝怀皇帝，设庙四时祭之。以右贤王刘宣为丞相，崔游为御史，陈元达为黄门，以族子刘曜为建武将军，招集军马，以候大举，不在话下。此五胡乱华之首也。