1978年4月5日,习仲勋受命南下,第二天,即4月6日下午,在中共广东省委四届一次会议上,习仲勋当选为第二书记。习仲勋抵达广州6天后,4月11日至5月8日,叶剑英就到广东进行了将近一月的视察工作。在叶帅下榻的南湖宾馆,习仲勋多次和他促膝长谈,并向他汇报了到广东工作的初步设想。叶剑英以6句话相赠:深入调查研究;稳妥制定计划;及时报告中央;按步执行实施;分清轻重缓急;注意保密安全。此后,习仲勋一直把这36字真言作为座右铭。
习仲勋到达广州时,由于当地干部群众的思想仍然受“左”的错误影响,全省工农业增长速度已经连续14年低于全国平均水平。经调查后,习仲勋指出:“当前存在的问题,主要是旧的框框多,许多本来是正确的东西也不让搞,不敢搞”。于是,他决定从整风入手拨乱反正。
6月初,习仲勋主持召开地、市委书记会议时,参会干部对个别省委常委提出了许多意见,强烈要求省委常委首先解决好路线是非问题,把全省的农业和其他各项工作搞上去。鉴于这种情况,习仲勋和中共广东省委研究决定,会议改为省委四届一次常委扩大会议,以此开展省委常委的整风。在习仲勋主持下,这次整风放手发扬民主,大家畅所欲言,把积压在心里的话都讲了出来,领导干部也各自主动承担责任,经过揭露矛盾,分析矛盾,初步总结了新中国成立以来特别是“文革”中的经验教训,使各级领导干部在重大的路线和政策问题上,统一了认识,解放了思想,增强了团结。
但由于当时,“左”的指导思想并没有彻底清除,这次整风中也出现了不同的声音,其中个别人的发言讲话还没有摆脱那个时代的烙印,往往上纲上线,言词有些过火。针对一些“出格”的话,这部分人是异常排斥和恐惧的,有人甚至把“状”告到了中央。了解到这些争论后,8月,叶剑英代表中央写信给习仲勋并省委各同志:“仲勋同志去广东后,大刀阔斧,打破了死气沉沉的局面,工作是有成绩的。我们完全支持仲勋同志的工作。如果有同志感到有什么问题,希望直接找仲勋同志谈。”叶剑英的这封信,无疑给了习仲勋极大的鼓励和支持。习仲勋在省委的会议上说,从来信可知,不光是叶副主席一个人支持,是说“我们”支持;不是支持他个人,是支持整个广东的党员和群众放手干,只要干得对,中央就支持。