高超的情报管理能力、显赫的身世背景、丰富的情报工作经验，使杜勒斯非常强势，他的铁腕让对手无不心生畏惧。他任中情局长后，第一个国内对手就是麦卡锡。麦卡锡是威斯康星州的参议员，也是一个政治活动家、美国政坛上的极右反共分子。1950年2月9日，麦卡锡在西弗吉尼亚的惠林发表演说，表达对国务院“亲共行径”的不满，并声称自己掌握了潜伏在国务院中的200多名共产党分子和间谍分子的名单，而国务卿对此却坐视不管。
麦卡锡的依据是，1946年7月美国国务卿贝尔纳斯曾致信众议院，说根据杜鲁门总统提议的“忠诚调查”，国务院对3000多名公务员进行了调查，认为有284人不适合在联邦政府任职，但其中只有79人被解雇。
由此，麦卡锡在美国掀起了一股歇斯底里的反共浪潮。在极短的时间里，美国各地出现了大批追随麦卡锡以及鼓吹麦卡锡主义的人，局面曾一度无法控制。麦卡锡坐飞机周游全国。每到一处，他都提出一些新的指控，拿出一批黑名单。美国媒体也乘机推波助澜。麦卡锡攻击的主要目标是杜鲁门政府的国务院，他说国务卿马歇尔“为克里姆林宫的政策服务”，随后又声称马歇尔的继任者艾奇逊“雇用并保护了共产党分子”，这导致了马歇尔和艾奇逊这两任国务卿被迫辞职。
在对国务院的攻击得手之后，麦卡锡似乎并不满足，又将矛头指向中央情报局。麦卡锡声称，中情局里至少有100名卧底的共产党分子。1953年7月9日，麦卡锡的调查人员柯恩给中情局负责联络事务的法律顾问沃尔特打了电话，要求情报处高级官员威廉·邦迪前往国会作证，原因是调查人员几天前在对中情局进行的一次例行安全检查中，发现邦迪曾向国务院官员希斯捐赠过400美元。希斯在1949年曾因间谍罪遭到联邦法院起诉。但是，这个问题邦迪在加入中情局的时候就已经讲清楚了，没想到在安全检查材料移交给负责国内安全事务的联邦调查局的时候，联邦调查局局长胡佛看到了，便将情况通报给麦卡锡，麦卡锡立即对邦迪进行了传讯。
那天上午，杜勒斯去出席国家安全委员会会议，邦迪只好向中情局副局长艾默里报告。艾默里当即让邦迪以休养的名义出国旅游，暂时回避作证。杜勒斯回到中情局得知此事后，对艾默里的做法非常赞赏。强势的杜勒斯坚决不允许麦卡锡把手伸到中情局来，更不会让自己的下属任由麦卡锡摆布。
麦卡锡的调查人员柯恩得知邦迪去度假了，便知道这只是一个说辞，于是指控艾默里犯了伪证罪。第二天，杜勒斯带着中情局的总法律顾问劳伦斯前往国会，直截了当地对麦卡锡表示，邦迪是不会去作证的，也没有这个义务。麦卡锡则不断向杜勒斯施加压力。1953年8月3日，麦卡锡寄给杜勒斯一封信，他在信中威胁杜勒斯说：“你的下属和一位高级官员与叛徒有联系，而你不但不让他协助调查，反而对他进行保护。可想而知，中央情报局的领导人也可能与叛徒有联系。”
杜勒斯不予理睬，一心想着对付他的办法。他想到副总统尼克松是麦卡锡的朋友，便请艾森豪威尔总统说服尼克松设法对付麦卡锡。尼克松对麦卡锡的过分行为也十分反感，便答应了，并对麦卡锡说自己认为邦迪不像是一个背叛国家的人。
但是麦卡锡仍咬住杜勒斯不放，尼克松便威胁他说，如果你还继续追查邦迪或中央情报局，那么你的名字很可能会在参议院的小组委员会选举中消失。当时，麦卡锡正在进行参议院小组委员会的竞选，听到尼克松的威胁，终于住手了。
邦迪事件让杜勒斯意识到，必须成立一个对抗麦卡锡势力的小组。于是，他十分果断地成立了以赫尔姆斯为首的小型委员会。这个委员会的主要任务是，搜集麦卡锡秘密收买中央情报局内部人员的情况，并采取相应对策。
为了表明中央情报局对麦卡锡势力的态度，杜勒斯还在中央情报局召开了一次600人参加的高级官员会议。在会上，杜勒斯明确表示，自己将不遗余力地保护受到麦卡锡指控的任何中央情报局雇员，中央情报局的任何人都不得出席麦卡锡的调查会，全体同仁应该团结一心，共同对抗麦卡锡势力。他还发出严厉警告：任何未经他亲自批准而去接触麦卡锡的中央情报局雇员都将被开除。
邦迪事件平息不久，麦卡锡又把矛头对准中央情报局的科德·迈耶。迈耶是一个具有自由派倾向的知识分子，1951年经杜勒斯的介绍加入中情局，当时担任主管秘密宣传行动的政策协调处国际组织科副科长，以前担任过反对各国扩军备战的世界联邦主义者联合会主席。麦卡锡指控他没能通过安全审查，并给中央情报局发来正式调查报告。巧合的是，与邦迪事件一样，当时杜勒斯又不在华盛顿，主持工作的中情局副局长查尔斯·卡贝尔将军立即对迈耶实行了停职、停薪措施。
在联邦调查局整理的材料中，迈耶的主要罪状是他曾经和哈佛大学的一个思想左倾的天文学家一起登台演讲、给一个上了黑名单的组织写过表示支持的信件等。麦卡锡要对迈耶进行审讯，而杜勒斯一口拒绝了联邦调查局介入对迈耶的调查，他命令赫尔姆斯对迈耶进行内部审查。后来，又亲自打电话给迈耶宣布解除对他的审查。这个举动让迈耶十分感动，也让杜勒斯得到了下属的广泛好评和忠心拥戴。在强硬的杜勒斯面前，麦卡锡又一次完败。
由此，杜勒斯铁腕局长的形象便在美国政界树立起来。在杜勒斯的任期内，中情局经费预算的54%被用于隐蔽行动。杜勒斯获得了一系列隐蔽行动的成功，其中包括颠覆伊朗和危地马拉政府，挖掘“柏林隧道”。最让他得意的，是在他的密谋策划之下，中情局及时弄到了赫鲁晓夫在1962年2月25日苏联共产党第二十次全国代表大会上所作的秘密报告的副本。这一系列行动，让杜勒斯声名大震。
恪守中立
杜勒斯在政策问题上一贯恪守中立立场。他非常注意与决策过程保持距离，以中央情报局只为政策制定者提供事实依据，不参与政策制定为工作原则。因此，在国家安全委员会的会议上，每当遇到研究政策方针问题时，杜勒斯总是竭力回避。他会用坚决的口吻表示，此事与中央情报局与中央情报局局长没有任何关系，而是国务卿的事。他的这种表示总会引起一阵笑声，因为当时的国务卿就是他的哥哥。
1947年通过的《国家安全法案》指出，当领导人召开会议就国家命运进行决断的时候，他们中间应当有一个以尊重事实为最高宗旨的人，而这个角色的担当者就是中央情报局局长。因此，中央情报局对政策问题不表态、恪守中立的做法并非杜勒斯个人的工作风格，而是缘于规定，杜勒斯只是严守这一规定而已。
1960年1月，肯尼迪宣誓就任总统刚几天，美国政府中就有人向肯尼迪递交建议信，建议美国政府考虑向面临严重饥荒的中国援助小麦，以表示对中国的善意。第二天一早，中情局副局长艾默里被召到白宫看了这封信，信的右上角标注着肯尼迪的批语：“征询艾默里的意见。”艾默里回到家里，整个周末都在考虑这个问题。
周一早上，艾默里把信拿给杜勒斯看。杜勒斯看完之后立即表示，这个问题属于政策问题，中央情报局是情报机构，不能对此发表意见。艾默里则表示，作为新总统的肯尼迪有自己的工作方式，现在他是在征求中情局的意见，中情局不能以“不关我的事”来作答。杜勒斯考虑了一下，让艾默里将文件拿到白宫去让有关人员研究，“但是一定要拿回来，我不想让这样的文件留在白宫的档案里，以免给人造成中情局介入决策的印象。”
杜勒斯不擅长对情报工作的管理，这似乎也是他始终对政策问题保持中立的一个原因。虽然1947年的《国家安全法案》赋予中央情报主任管辖美国情报界的职责，但是杜勒斯在担任中央情报主任八年多的时间里，却始终没有认真行使这个权力。究其原因，首先是立法不明。1947年《国家安全法案》对中央情报主任的权限没有明确界定，因而使其不能名正言顺地过问其他情报机构的预算、资源和情报任务。另外，插手此事很容易被卷入权力斗争的漩涡中。从职责上来说，中央情报主任可以管辖国务院和军方的所有情报机构，但国务卿和国防部长显然不愿意让别人插手自己的下属单位。此事还容易让中情局陷入利益之争。杜鲁门成立中央情报局的初衷，是想让它把不同情报来源的信息进行综合整理后供总统参阅，中央情报局自身不具有情报搜集、分析和研究职能，这种受制于人的尴尬处境，使第一任中央情报主任索尔斯深深体会到拥有自主独立权力的重要性。从第二任中央情报主任范登堡直到杜勒斯，都把扩大情报来源、组织机构和任务职能作为工作重点，远远偏离了杜鲁门对中央情报局的要求，中央情报局很快就发展成为一个集情报搜集、分析研究和实施隐蔽行动于一体的机构。这种职能上的转变，使中央情报局与其他情报机构有了利益之争，作为中央情报局的局长自然不能不偏不倚地履行其管辖职责。更为重要的是，杜勒斯本身并不想行使对其他情报机构的管理权力。一方面，他想维护与军方的良好关系；另一方面，他对管理情报预算之类的事也毫不感兴趣，他感兴趣的是隐蔽行动。
与他的前任们相比，杜勒斯拥有优越的背景，他能够得到总统的信任，而国务卿又是他的亲哥哥。1956年1月，艾森豪威尔成立了总统国外情报活动顾问委员会，其10名成员全部是由杜勒斯一手推荐的。这个委员会常常提出各种措施，敦促杜勒斯履行他的主要职责，比如将办公地点挪到白宫，中央情报局内部的管理工作可交给一名特设副局长，把自己的主要精力放在做好情报协调工作上，等等。上述种种，杜勒斯一概置若罔闻，没采纳一项。对此，艾森豪威尔感到很遗憾，认为他没能发挥管理情报界的作用，尽管如此，艾森豪威尔也不愿意撤换他。
虽然在政策方面保持中立，但是在涉及中情局利益的问题上，杜勒斯则寸步不让。他在任时，成功地争取到充足的经费，在距华盛顿8英里的地方盖起了一座建筑面积约13万平方米的中情局总部办公大楼，该楼的设计者是享誉全球的联合国总部大厦的建筑设计公司。1961年，国务院情报研究局想把审议中央情报局隐蔽行动计划的权力，从负责政治事务的副国务卿切斯特·鲍尔斯办公室那里拿过来，而恰好鲍尔斯又十分厌恶隐蔽行动，愿意把自己的这一权力下放给情报研究局。尽管国务院强调这是国务院内部的事情，他们有权自行决定，可杜勒斯千方百计地阻止了国务院情报研究局的企图，成功地把国务院对中情局隐蔽行动的审议权留在副国务卿办公室。
败给苏加诺
杜勒斯策划的行动并非百分之百成功，除了他在任副局长期间，波兰“自由独立军”事件让中情局蒙受了几百万美元的损失之外，让中情局狼狈不堪的还有针对印尼总统苏加诺的行动。
1955年，亚非国家首脑会议在印度尼西亚的万隆召开，印尼总统苏加诺一下子成为第三世界阵营中十分显要的人物。由于他奉行反帝、反殖民主义的不结盟外交政策，被美国视为眼中钉。美国国务院情报研究局局长卡明向白宫各个部门发出一系列提案文件，要求中情局趁事态还没有发展到无法收拾的地步，抓紧对苏加诺采取措施。于是，1955年9月29日，在印尼举行议会选举的时候，杜勒斯领导的中情局便开始了行动。他们为了让玛斯友美党在大选中战胜印尼共产党，给玛斯友美党拨了100万美元的经费。然而，玛斯友美党在大选中败北，中情局一无所获。
大选结束后，苏加诺先后访问了中国、苏联和一些东欧国家。他多次公开表示，西方式的民主不适合印尼。1956年年底，美国军界与政界达成共识：应该收拾苏加诺了。他们一致认为，支持印尼国内反苏加诺的力量发动政变是最佳方式。对此，美国驻印尼大使表示反对，他认为政变不可能成功。由于他的观点与华盛顿的方针相悖，因而被免职。
1957年秋，杜勒斯派中央情报局雅典情报站站长小艾尔弗雷德·厄尔默到雅加达实施代号为“海克”的行动。杜勒斯拨给厄尔默700万美元，这一行动计划首先是败坏苏加诺的声誉。当时，苏加诺58岁，有四位夫人，并经常传出一些绯闻。中情局根据苏加诺的情况拍摄了一部情色电影，影射苏加诺，在印尼及东南亚地区上映。然而，此举并没有获得预期的效果。原来，中情局忽略了伊斯兰教义的规定。根据伊斯兰教义，每个穆斯林男子可以娶四位妻子。苏加诺没有违反教义，因此没引起人们对他的反感。一看这招不行，厄尔默又提出了军事行动计划，打算物色一批反对苏加诺的军人，向他们提供武器，策动他们叛乱。
1957年4月，中情局的情报分析专家提出了一份关于印尼政局的分析报告，称印尼国内存在一个反政府的军人集团，这个集团特别希望得到美国的支持。杜勒斯看到报告后十分兴奋，即刻派了一名准军事行动专家和一名报务员到苏门答腊与这个军人集团取得联系，策划军事政变。随后，大批武器通过美国驻菲律宾的军事基地运到了叛军手里，中情局还为其招募了近千名军人。
1958年2月，苏加诺出访日本。15日，叛军在苏门答腊发动军事政变，空袭了万隆、望加锡、安汶等地。得知政变开始后，杜勒斯兴奋地等待着成功的消息。然而，苏加诺政府很快将叛乱平息下去。中情局不死心，又向苏门答腊派去了一些准军事行动专家指导叛乱，指望叛军能够守住一两个小岛，作为向苏加诺施加压力的筹码。4月30日，苏加诺谴责美国向叛军提供了轰炸机和飞行员，并警告美国不要做对两国都不利的事情。
美国政府与中情局都不理睬苏加诺的警告，继续进行颠覆行动。5月18日，中情局雇用的飞行员劳伦斯驾驶一架B-26轰炸机，对安汶岛机场进行空袭，被印尼军方击落，劳伦斯的空军身份证、民用航空公司身份证，以及他与中情局签订的合同等都被查获，并被印尼政府通报给外界。
此事让杜勒斯极为狼狈，他不得不放弃这一行动。他一手策划的军事政变就这样遭遇完败。
窃取苏共二十大报告
