回到洛阳之后，黄明远以不适应京中为相一事，请求辞去宰相之任，外放为官。黄明远向天子明言感觉自己在京中，无所施展，实在困顿，希望哪怕为一地太守，安定地方，也好过在京中蹉跎时间。
一国首相，任相不过几个月便要离职，这时前所未有的事情。
杨广闻之先是震怒，便将黄明远狠狠地训斥了一番。黄明远跪在杨广面前，声泪俱下的叙述了自己在京中的蹉跎，直言自己还欠缺为相的能力，请求天子让他出外再闯荡一番。
杨广终究与黄明远如父如子，也没有责罚黄明远，后来更似乎理解了黄明远的心思。的确这宰相让他架空的成了闲人，当的也没什么意思。
不过杨广思虑再三，终究没同意黄明远罢相的想法。黄明远在大隋身份特殊，且刚任首相一两个月，若是罢之，岂不是儿戏，也容易影响到杨佶。
不过杨广也知道黄明远志不在洛阳，若是强留之，反而影响君臣关系。杨广最后下令以黄明远首相之职，留守长安，总揽关中、关北、陇右、河西、剑南、汉中等地政务。
对于黄明远来说，虽然在长安也是有诸多掣肘，但自己也能放开一定的手脚进行施展，至少比在洛阳无所事事要好得多。
不过长安是关陇世家的大本营，甚至是黄明远敌人的大本营，因此势必成不了自己日后的根据地，甚至还会出现无数的非难与攻讦。不过黄明远这些年以少胜多的仗打了太多，各种险境早就遭遇了无数，因此在敌人腹心中活动，黄明远第一感觉反倒还挺刺激的。
大业三年十一月初，黄明远带着家人返回了长安，主政关中。
黄明远主政关中，无异于一场大地震爆发。朝野内外皆是议论纷纷，有言黄明远被天子厌弃的，有言天子在为齐王铲除绊脚石，有言天子要对付关陇世家······各种议论不绝。
黄明远倒是不以为意，任他八面来风，我自岿然不动。
关中不少的大家族在于家、李浑等人的纠结下，对黄明远满是敌视，准备严阵以待。其中又以时任京兆丞的窦谊对黄明远最是敌视，准备给黄明远一个下马威。
不过窦谊也有自己的底气。窦谊是太傅上柱国邓国公窦炽之子，家世显赫，地位崇高，虽然官职不高，但作为关陇世家的老牌二代，无论名气还是地位都大的很。
窦谊之前一直在外地为官，并未和黄明远有过接触，因此对于黄明远的豪横颇不以为然。
当初北周八柱国十二大将军二十四仪同的时候，尽是一群**盈朝，他们这些二代、三代子弟什么没见识过，还能怕了一个来自关东的竖子。尤其是窦家最有上升势头的前幽州总管陈国公窦抗因涉案汉王杨谅构逆而被天子除名，窦谊认为这件事与黄明远有莫大关系，因此更将黄明远视为眼中钉、肉中刺。
黄明远到任之后，窦谊身为黄明远的直接下属，故意对黄明远的命令视而不见，还处处找机会给黄明远制造麻烦。
黄明远自从担任宰相之后，居移气，养移体，早就没有之前在边疆时的莽撞杀气了，因此对于窦谊如小孩子一般的耍闹脾气，倒是不以为然。黄明远与窦谊的弟弟窦威关系不错，所以倒也不跟窦谊一般见识。
不过黄明远放窦谊一马，但窦谊却不以为然，还以为黄明远畏惧于他。他这二杆子劲上来，更是想狠狠削一削黄明远的面子。
这一日黄明远主动宴请窦谊，希望双方能够化干戈为玉帛，黄明远也没有功夫天天应对这熊孩子。但黄明远在府上久候不至，窦谊直到日上三竿，才姗姗来迟。黄明远强忍着怒气开宴，而窦谊在宴会之上又大放厥词，傲气十足，对待黄明远，颇有一种对待晚辈的教训姿态。
窦谊在黄明远的宴会上过足了嘴瘾，大摇大摆地回家去了，只留下在府上怄气的黄明远。
黄明远看着陆陆续续离开的众人，有些颇为无奈地对陈远说道：“仲长，这才过了多长时间，难道他们真的以为黄明远变得好欺负了，果然好人难当啊。”
次日，黄明远便准备对窦谊动手。
当时窦谊为京兆丞，黄明远命窦谊监管百姓缴纳粮食。窦谊本就是世家公子，浪荡浮华，对此破不以为然。
没想到粮食缴纳入库之后，黄明远亲自去查看粮食情况。果然粮食收的良莠不齐，黄明远便以渎职的罪名，命人鞭打窦谊。
窦谊没想到黄明远真敢对他动手，因此破口大骂。
黄明远让雄阔海抄起鞭子便对着窦谊狠狠地抽去，抽的窦谊皮开肉绽，头破血流。后来众人劝阻，窦谊才乃免。
众人本以为此事便如此了，黄明远却强令还没有伤好的窦谊继续监管百姓缴纳粮食，并宣言如果在粮食里发现一点米糠一颗秕子，就加以处罚。果不其然，窦谊难以完成此事，每日都挨到黄明远的毒打。每次鞭打虽然不到十下，但一天里有时要打好几次。
后来窦谊忍受不了，情绪爆发，竟然选择弃职不干，再也不受黄明远的驱使。
此事正和黄明远之意，果然黄明远见窦谊弃职，便下令以渎职的罪名将窦谊逮捕下狱，禁止给他食物。窦谊饿得受不了，抽出衣服里的绵絮，和着水吞咽下去。
这时候眼看黄明远要弄死窦谊，窦家人也坐不住了。
窦家人知道黄明远的性格，若是真的将黄明远激怒，怕是会直接处死窦谊。因此窦威亲自出马，向黄明远请罪。
窦威是窦家少有的人才，又曾担任过黄明远在左武卫的长史，因此黄明远给了窦威一个面子，放出了窦谊。
而此时的窦谊已经被折腾的丢了半条命。
窦家人眼看窦谊的惨状，虽然怨恨，但却没有人敢报复。至于关中其他家族的族老们，眼看窦谊都落到这般田地，也是心有戚戚。他们心知再是有资格，若是黄明远不在意，也会失了面皮，因此更没人敢直接给黄明远对着干了。
处理了窦谊为代表的关陇反对派，黄明远的工作倒是顺畅了许多。