然而，这个办公室只是对情报界的重大情报项目进行成本核算，并没有做其他方面的事情，而麦科恩所做的其他局部改革，也没有达到肯尼迪所要求的那样。当然，这也是有原因的。虽然肯尼迪授意麦科恩去协调美国所有情报机构，但并没有指示军事情报机构将麦科恩视作上司，而军事情报机构一直是由国防部长麦克纳马拉在1961年设立的国防情报局统一领导的。虽然当时中央情报局强烈反对成立国防情报局，但是，受“猪湾事件”的影响，那时中情局的任何意见军方都不放在眼里。此后双方一致纠纷不断，矛盾很深，现在让麦科恩一下子将关系理顺，特别是让军事情报机构听他的指挥，也确实有点强人所难。
麦科恩过去的企业经营经验让他懂得如何与政治圈里的人打交道，但是，似乎并没有让他弄懂政治到底是怎么回事。在遇到纷争的时候，麦科恩的侧重点不是放在尽快缓解矛盾上，而是坚持自己的意见据理力争，总是力图说服对方。如果是双方的情报信息不一致，是应当坚持自己认定的正确情报，不能随意附和别人，而如果是处理其他方面的矛盾这样做就显得过于生硬了，要想在华盛顿的政治圈里混，似乎应当圆滑一些。从处理中央情报局与国防情报局的矛盾来看，麦科恩在这方面好像有所欠缺。中央情报局与国防情报局的纠纷由来已久，其集中表现在如何看待苏联在古巴部署导弹，以及如何统一实施空中侦察行动的问题上。空中侦察行动计划是由中央情报局首先搞起来的，后来由于各种原因不得不移交给空军，由空军支付经费和实施侦察。空军方面只要求中央情报局在必要的时候出出点子，最终决定权在空军手里。中央情报局当然不会答应，坚持在确定侦察目标以及发展新型侦察装备方面拥有一定的决定权，原因是装备的类型取决于侦察目标，侦察目标不同需要的装备也不同，而中央情报局与美国空军在侦察目标上区别很大。由此，纠纷便产生了，而这种纠纷似乎也很难调和，并不是麦科恩的工作没做到位，换上别人也一样。
麦科恩与国防部长麦克纳马拉相处得也不是很好。麦克纳马拉对于麦科恩让中央情报局的国家情报计划评估办公室，对国防情报局的管理及情报活动进行调查非常不满。在调查结束之后，麦科恩给麦克纳马拉写信，敦促麦克纳马拉对国防部所从事的意义不大并重复多余的情报活动进行整改，以免浪费国防情报局的精力及资源，他还建议麦克纳马拉对国防计划进行全盘修改。这就使原本反感麦科恩的麦克纳马拉对其更为反感。另外，政治经验不足的麦科恩还曾直言不讳地指责麦克纳马拉，要其对军队情报部门的行政管理不善承担责任。由此，两人更加水火不相容。
麦科恩缺乏政治经验还表现在情报工作中。1962年7月26日至8月8日，中央情报局发现古巴港口有苏联船只停泊，而且在古巴的苏联军事专家有5000人之多，还有其他一些迹象也表明古巴正在建造军事设施。麦科恩向肯尼迪做了报告，但苏联到底在古巴进行什么样的行动，中央情报局暂时还无法准确判断。8月29日，中央情报局派出U-2飞机对这些船只进行了侦察，结果U-2飞机带回了在古巴西部地区拍摄的一个建筑工地上安装的两枚“萨姆”地对空导弹的照片。
其实，8月22日的时候，麦科恩就明确地对肯尼迪表示，有迹象表明参议员基廷此前关于苏联在古巴部署导弹的判断也许是对的，但肯尼迪不以为然。当时，虽然还没有更多的证据可以说服总统，但是麦科恩清楚地知道，用“萨姆”导弹来保护一个建筑工地肯定有问题。
虽然此后U-2飞机在古巴上空的飞行侦察没有中断，但从9月5日到10月14日，U-2飞机并没有对8月29日明确辨认出设有萨姆导弹的地区再度实施侦察。在材料不足的情况下，中央情报局只能根据零星的资料进行推测。而国家情报评估委员会认为苏联不会在古巴部署导弹，麦科恩反对国家情报评估委员会的这个结论，认为它是“错误及可笑的”，这让国家情报评估委员会很没面子。
10月14日，U-2飞机再次带回了从古巴上空拍摄的导弹照片。确凿的证据表明麦科恩的判断是正确的。麦科恩是政府官员中最先就问题的严重性向肯尼迪做出明确报告的人，中情局是第一个向总统提供这一情报的机构。然而，这个业绩并没有让麦科恩得到回报，反而为此付出了代价。原因是他过分夸耀自己，不仅让其他情报机构的许多老资格的情报专家丢了面子，而且也让肯尼迪总统丢了面子。从此，肯尼迪开始疏远他。
不讲政治，就是如此下场。
打破中立丢官位
麦科恩的不懂政治，还表现在他对政策问题直言自己的观点，将前任局长杜勒斯奉为信条的中立立场彻底抛弃，最终使自己不得不离开中央情报局。让麦科恩离开中央情报局的直接原因，是他在越南问题上从不隐讳自己的观点，将中央情报局局长只是向政策制定者提供事实依据，而不对制定政策发表意见的规矩抛到脑后。麦科恩认为，虽然自己的职责不是制定政策，但只要有问题问到自己，就一定要发表意见。正是基于这种想法，麦科恩在许多政策问题上都直言不讳，并显得过于自信。麦科恩甚至还认为，总统在决定政策问题的时候，应该与中央情报局局长和国务卿一起商量，根据商量的结果来作决定。这自然受到包括总统肯尼迪在内的不少美国政府官员的反对。
1962年年初，麦科恩拜访了南越当局的首脑吴庭艳。吴庭艳给他留下了深刻印象，他认为美国政府应该继续扶持这个独裁者。但不久，美国政府决定让吴庭艳下台，中央情报局驻西贡站站长科尔比接到了寻找替换人选的通知。当时，科尔比正准备回国接任中央情报局计划部远东处处长，对此事并不太上心。更重要的原因是，科尔比与吴氏兄弟私人关系很好，所以他认为无人能代替吴庭艳。
一年之后，吴氏兄弟发动了镇压佛教徒的运动，引起了南越局势动荡，这使美国政府感到换掉吴庭艳迫在眉睫。对此问题，美国政界也有一定的分歧。美国国务院以艾夫里尔·哈里曼和迈克尔·福莱斯特尔为代表的一部分人主张立即把吴庭艳换掉。麦科恩则认为不能换，南越暂时没有能够替代吴庭艳的人选，此时换人可能会打乱西贡的政治结构，不符合美国的利益。国务院则反驳麦科恩的看法说，问题的关键并不在于谁能替换吴庭艳，而在于美国能否与吴庭艳一同取胜。白宫更重视国务院的意见，美国政府内部反复讨论是否应当支持旨在推翻吴庭艳的政变行动。而吴氏兄弟此时又不识时务地镇压佛教徒，美国国务院随即起草了一份电报稿，明确表示美国将支持南越与吴庭艳持不同政见的军人发动政变，这份电报得到了肯尼迪的认可。
1963年10月，一名南越将军联系到中央情报局特工，表示他们已经策划好了三种推翻吴庭艳的方案，其中包括暗杀。
麦科恩当即电告中情局西贡站暂且撤回支持政变行动的意见，他还请求肯尼迪总统不要支持政变行动。麦科恩反复强调，吴氏兄弟是目前为止美国在南越最佳的利益代言人。如果换人，美国在南越的利益肯定会受损。原本就对麦科恩干介入政策问题，以及过于自信十分反感的肯尼迪，对他的意见毫不理会，依然允许国务院向南越与吴庭艳持不同政见的军方人士保证，美国政府会对他们的行动给予政治支持。
1963年11月11日，南越军人发动政变，吴氏兄弟在政变中被杀。吴氏兄弟死后只有三个星期，肯尼迪也遇刺身亡。由于此前麦科恩与肯尼迪在南越问题上有过较大分歧，他也被列入刺杀肯尼迪一案的嫌疑人名单。自此之后的很长一段时间，麦科恩差不多每天都出入白宫，就有关问题去进行解释。麦科恩对此十分不解，他不明白为什么人们会怀疑一个效忠总统的人是刺杀总统的凶手。也许麦科恩只适合做生意，因为作为生意人他是精明的，而作为政治人士他却总显得有些“笨”。
肯尼迪被暗杀后，约翰逊继任总统。麦科恩发现约翰逊对中情局不感兴趣，对情报工作的态度也与肯尼迪有很大不同。总统认为，在军事和外交政策方面，有国防部长与国务卿提供信息与意见就够了。麦科恩知道，自己已经成了白宫的圈外人。事实上，约翰逊在任总统之前，就已经反感麦科恩对肯尼迪总统的决策进行干预，因而他上任后不会听从麦科恩的什么意见。
1965年2月，约翰逊总统下令对北越进行轰炸，终于导致了大规模的战争。对此，麦科恩不止一次地与约翰逊进行争论，全然忘记了自己所应该持有的中立立场。当然，麦科恩此时已经不再位列美国核心领导层了，他的任何意见都不再被当回事。
1965年，当麦科恩意识到自己这个中情局长已经连让总统看一眼自己的汇报文件的能力都没有了的时候，便向总统递交了辞呈。他重新回到了实业界，继续做一名精明的生意人。
