外为他饯行。临别的时候，太祖对苏让说：“您家子弟之中，谁可以任用？”苏让于是推荐了苏绰。太祖就召见苏绰，任命他为行台郎中。在任一年多，太祖还没有很赏识他。但是各部门的官员有疑难不决的事情，都向苏绰征询然后才作决定。所发送的公文，苏绰又为他们拟定条款格式。行台的官员都称赞他的才能。后来有一次太祖跟仆射周惠达讨论政事，周惠达不能回答，请求让他出外找人商议。于是他把苏绰召来，把讨论的事情告诉他，苏绰立即为他加以裁定。周惠达再进去呈报太祖，太祖连声叫好，问周惠达：“谁替你想出这些意见的呢？”周惠达回答说是苏绰，接著称赞他有辅佐帝王的才干。太祖说：“我也听说这个人很久了。”不久太祖就授任苏绰为著作佐郎。

有一次适逢太祖和公卿一起到昆明池观看打鱼，走到城西汉代仓库旧地的时候，回头询问左右侍候的人，没有谁知道。有人说：“苏绰见多识广，请问他吧。“太祖就把苏绰召来询问，苏绰就把具体的情况一五一十地告诉他。太祖十分高兴，接着又问当初开天辟地的事情和历代兴亡的过程。苏绰很有口才，全都对答如流。太祖更加欢喜，于是和苏绰一起骑着马并排慢走到了昆明池，竟忘了打鱼的事情而没有设置鱼网就回去了。于是太祖把苏绰留下一直到了晚上，继续询问治国的方法，自己就躺下来听他陈述。苏绰于是向太祖说明了帝王安邦定国的正确措施，同时又论述了法家代表人物申不害、韩非子学说的要点。太祖听得竟然马上起来，正襟危坐，连膝盖在坐席上往前移了也不知道。就这样两人一直谈论到天亮也不感到厌倦。第二天早上，太祖对周惠达说：“苏绰真是个奇才，我要把政务委任给他。“太祖当即授任苏绰为大行台左丞，让他参与处理机密的事务。从此以后太祖对苏绰的信任和待遇一天天隆厚。苏绰又开始制定公文案卷的格式，规定行台发出的文件用朱笔，呈送入行台的文件用墨笔，并且制定记账和户籍登记的方法。

大统三年，齐神武帝兵分三路入侵，各将领都想分兵抵挡，衹有苏绰的意见和太祖相同。于是他们集中兵力抵抗窦泰，在潼关把他活捉。大统四年，朝廷加授苏绰为卫将军、右光禄大夫，封爵美阳县子，封地三百户。后来又加授通直散骑常侍，提升爵位为伯，增加封地二百户。大统十年，苏绰被任命为大行台度支尚书，领著作郎，兼任司农卿。

当时太祖正想改革时政，致力于扩展强国富民的路子，因此苏绰得以尽力发挥他的智慧和能力，辅佐太祖成就大事。他主张裁减官员，设置党正、里长，并且设置屯田来资助统军治国的费用。苏绰又草拟了六条诏令，奏请施行。

第一条，首先修养自身的思想品德：

凡是当今的地方长官，都是由天朝任命，派到各地统治一方，说起他们的尊贵地位，都跟古代的诸侯相当。因此前代的帝王，常称说共同治理天下的，衹有优良的郡守县令罢了。君主明知各部门长官虽然各有所主管的工作，但是作为治理百姓的根本，那就没有什么像郡守县令那样最为重要的了。大凡治理百姓的法则，首先应当加强自身的思想品德修养。思想是全身的主宰，各种行为做法的根本。思想不清净，就会胡思乱想。胡思乱想，就会不明事理。不明事理，就会是非颠倒。是非颠倒，就会一身不能自理，这样哪裹还能治理百姓呢？因此治理百姓的关键，在于心地要清净。所谓心地清净，不是说不贪图钱财，而是要让心情清净平和，精神端正沉静。能够做到心情平和，精神沉静，那么邪恶不正的念头就无由产生。邪恶的念头不产生，那么凡是考虑的事情，没有不符合最公正无私的道理。用遣最公正无私的道理来治理自己属下的百姓，那么百姓谁还不听从你的教化呢。因此说治理百姓的根本首先在于修养思想品德。