1985年腾格尔从天津音乐学院毕业分配到中央民族歌舞团，最初，腾格尔任民乐队的三弦演奏员，由于长期没事干，他生活陷入窘境。1986年，腾格尔参加了由东方歌舞团主办的第一届“孔雀杯”青年歌手大赛，演唱了由自己作词、作曲的《蒙古人》，并进入了前10名。腾格尔说：“客观地说，那是我歌唱生涯的起点。”同年腾格尔到宁夏固原县实习采风整整一年，虽然艰苦，但却为歌曲创作积累了大量的音乐素材。
1989年，腾格尔在文化部主办的“全国流行歌曲优秀歌手选拔赛”中获得“十佳”第一名。腾格尔独特的声音受到徐沛东的赏识，被徐挖掘来演唱新歌《我热恋的故乡》。
1991年腾格尔创作《父亲与我》，在第二届亚洲音乐节上获中国作品最高奖。1992年荣获蒙古人民共和国最杰出人士“金凤奖”。1992年，他参加拍摄电影《
黑骏马》，在主演的同时，担任本片的全部音乐创作和主唱，因而在第19届蒙特利尔国籍电影节上获最佳音乐奖。
1992年，腾格尔克服重重困难，怀着交流音乐的愿望，独自背着吉他去了台湾。他是第一个台湾举办个人演唱会的当代大陆歌手。台湾主办方看到媒体反应和观众热情，把第二场演唱会放在了中正纪念广场。在当地掀起了“腾格尔热”。台湾报刊称“刮来了强劲的西北风”。
苍狼乐队成员合影
1993年3月，腾格尔与五位充满朝气、志同道合的朋友组建了“苍狼乐队”。他们都来自美丽的内蒙古大草原，用共同的情感和音乐语言，开创了自己的音乐风格。取名的原因是因为苍狼自古就是蒙古民族的图腾。1994年在电影《黑骏马》担任该片的全部音乐创作和主唱，并获第19届蒙特利尔国际电影节获最佳音乐艺术奖。1996年，由他作曲、演唱（美国女作家聂华岭作词）的《江水啊，流啊流》在上海举办的第二届“华声曲”全球华人歌唱比赛上获一等奖。
2000年，在杭州举办的中国艺术歌曲音乐电视展评上，由他作词作曲并演唱的《
天堂》获最佳歌曲、最佳演唱两项大奖，同年，在北京举行的新千年全球华语音乐榜中榜大赛上，歌曲《天堂》再一次获神州最佳歌曲奖。
2001年4月，他在首都北展剧场成功地举办了两场个人演唱会，受到媒体和演艺界的好评,成为2001年北京文艺舞台流行音乐一大盛事。同年5月，歌曲《天堂》获中国最高音乐奖项――首届中国“金钟奖”声乐作品铜奖。6月，为了表彰他为发展我国艺术事业做出的突出贡献，经中华人民共和国国务院批准享受政府特殊津贴并颁发荣誉证书。9月14日，他带领苍狼乐队赴美国成功地举办了个人演唱会，他演唱了歌曲《天堂》，以悼念“9.11”事件中的死难者，受到当地媒体的好评。2001年底，他为电视连续剧《
康熙王朝》录制片尾曲《大男人》，该剧播出后，在全国及港澳台地区产生轰动，歌曲《大男人》被广为传唱。
2001年底至2002年7月，他参加了中央电视台举办的“心连心”艺术团、“同一首歌”等大型演唱会，及全国各地举办的演出和电视台的文艺晚会达一百余场。2002年4月，他率苍狼乐队在北京林业大学成功地举办了个人演唱会，将售票所得全部款项资助林大在校贫困生42名，受到首都高校及各界人士的好评。
腾格尔《
桃花源》MV造型
2002年8月，他在内蒙古自治区鄂托克旗他的家乡举办大型个人演唱会《故乡情》，用他的歌声回报养育自已的家乡。同年9月，他在湖北省连续成功举办七场“腾格尔及苍狼乐队湖北个人演唱会”。2003年1月11日，他在广州中山纪念堂举行新年首场个唱会，获得圆满成功。同年6月，他与苍狼乐队应邀在蒙古国乌兰巴托PALAC剧场举办个人演唱会，获蒙古国青年联合会颁发的杰出劳动者奖和蒙古国文化部颁发的先进工作者奖。2004年，腾格尔获得“全国五一劳动奖章”，成为娱乐界第一个获此殊荣的歌手。
2013年12月22日，腾格尔在北京携原创新歌《桃花源》亮相，精心打造的MV也随之曝光。腾格尔一改平日沉稳粗犷的硬朗形象变“萌叔”，大跳MV中自创的“桃花舞”，谈及新歌的创作灵感时自爆MV中的自己就像猪八戒进了盘丝洞。
