郭衍之父郭崇曾于北魏末年事孝武帝为官，后官至侍中。，出身于官宦之家的郭衍，少年时代就勇武超人，善于骑射。557年宇文氏代魏建周后，郭衍被周陈王宇文纯所器重，引为左右，并累迁大都督。其时，北周经常受北齐的成胁，郭衍奉诏从天水（今甘肃天水、秦安、甘谷等地）招募迁徙千余家人口，屯于陕城(今河南省陕县)，以镇守北周东部边境，官拜使持节、车骑大将军、仪同三司，一年内串众数次打败北齐军队的进攻，颇使齐军丧胆，陈王因此而更加亲宠重用他。建德四年(575年)，北周武帝调集18万大军进攻北齐，并亲率六军攻打河阴城(今河南孟津县东)。郭衍随驾出征，请缨为前锋，一举攻拔该城，故以功授仪同大将军。第二年，周武帝再度伐齐，率大军围攻平阳城(晋州治，今山西临汾市西南)，郭衍奉命从陈王屯兵千里径，以阻击北齐援兵。周军攻占平阳后，北齐后主高纬亲率主力军队10万欲夺平阳。周武帝集结8万主力在平阳附近与齐军决战，大败齐军后，郭衍又率部追击齐军，乘胜攻取高壁(今山西灵石县东南)，接着，随从周武帝北上攻克并州晋阳城{今太原市南郊古城营)。北周建德六年(577年)，周军攻破北齐都城邺(今河北临漳县西南邺镇东)，北齐灭亡。在北周灭齐统一黄河流域的一系列战役中，郭衍屡立战功，因而加授开府，封武强县公、食邑1200户，并被赐鲜卑姓叱罗氏。宣政元年（578年）)义为右中军熊渠中人大。

　　北周大象二年（580年），周静帝宁文阐年仅8岁，八外祖父杨坚始擅权执政。同年六月，相州总管尉迟迥起兵反杨，“聚徒百万”，“称兵邺邑”，各郡群起响应。于是，杨坚决定首先平定相州之乱，郭衍奉命随从韦孝宽。高颎东讨尉迟迥，先于武陟永桥城(今河南武陟且西南大虹桥)击溃尉迟军，接着又乘胜进逼邺城（相州治），在邺城南与尉迟军大战，败之，并攻破邺城。尉迟迥自杀，其子尉迟惇、尉迟祐向青州(今山东益都县)逃奔。郭衍率一千精锐骑兵乘胜追击，再次大破敌军，活捉尉迟祐，入据济州城（今山东荏平县西南），又于城北歼灭其余党，彻底粉碎了尉迟迥之乱。郭衍为巩固杨坚的统治立下了汗马功劳，故被越级授上柱国，封武山郡公，赏物七千段。

　　北周静帝大定元年(581年)--月，杨坚以隋代周，建元开皇，是为隋文帝。郭衍亦奉勒恢复旧姓郭氏，隋开皇三年（583年），隋文帝命郭衍为行军总管，领兵屯于平凉(今甘肃省平凉市)以防突厥犯境。又因关中产粮不足京城消费，隋文帝乃于开皇四年(584年)诏开广通渠，命郭衍为开漕渠大监，同宇文恺率水工凿渠引渭水，经大兴城（今陕西西安市）北，东至潼关接黄河，漕运400余里。广通渠使关东粮食得以西运，缓解了关中粮荒，因而被时人称为“富人渠”。开皇五年(585年)，郭衍为潞州刺史，赴任后适逢秋雨成灾，瀛州属县多被水淹。郭衍亲备船筏和粮食救灾，并先开仓赈恤，后禀奏文帝，此举深得较体恤民情的隋文帝的赞赏，故又选授其为朔州总管。朔州地处边远，尤以恒安镇(今山西大同县西北)北接番境，粮禽转运非常不便，郭衍便在此择地屯田，不仅做到粮食自给，且“岁剩栗万余石”使劳动人民免受转输之苦，故更得到隋文帝的信赖。开皇九年(589年)，隋平南陈，统一了全国。为巩固对江南的统治，第二年隋文帝派晋王杨广出镇扬州(今江苏省江都县)，郭衍亦随从前往。其时，南陈故地反隋叛乱四起，郭衍受命为行军总管，先领精锐部队万余人屯于京口（今江苏省丹徒县），后于贵州南平定叛乱，生擒敌帅，缴获了大批舟船粮草，接着又平定了东阳、永嘉、宣城，黟、歙等诸地叛军，维护了全国统一的局面，于是又授蒋州（今江苏省南京市）刺史。

　　在江南追随杨广期间，因郭衍“临下甚踞、事上好诌”深得杨广厚爱，遂迁洪州（今江西省南昌县）总管。时太子杨勇日惭失宠，杨广阴谋取而代之，便以郭衍为心腹，郭衍亦欲以杨广为靠山，故而，杨广密召郭衍与其暗地共谋夺宗大计。此后，郭衍频繁来往于洪州和扬州之间，与杨广过从甚密。为了策应杨广，郭衍还征洪州“大修甲仗，阴养土卒”，暗中积聚武装。仁寿二年(602年)，隋文帝听信杨素等人谗言废杨勇，立杨广为太子，郭衍亦被征授为左监门率，后转左宗卫率。仁寿四年(604年)七月，隋文帝临终前发现自己废立太子的错误，但为时已晚。杨广同杨案伪造圣旨，令郭衍和宇文述率兵控制了皇宫和东宫，并将隋文帝害死于仁寿宫，杨广遂即帝位，是为隋炀帝。时汉王杨谅闻讯于并州起兵讨伐杨广，“从谅反者凡十九州”，郭衍又奉杨广之命据守京城。

　　郭衍于隋炀帝袭位有功，故大业元年(605年)拜左武卫大将军。同年仲秋，隋炀帝率近20万人沿通济渠南下到江都游玩，令郭衍统领左军，改授光禄大夫。大业五年(609年)郭衍从隋炀帝西讨吐谷浑，出金山道，大破敌军，纳降2万余户，又为隋炀帝开拓西部疆土立下战功。大业六年(610年)郭衍被封真定侯，同午三月再次随驾赴江都。大业七年(611年)正月，卒于江都，赠左卫大将军，谥曰“襄”。