南京方面颇为看重“小开”，因为他们知道：
第一，他来自莫斯科，中共驻共产国际代表团团长王明指定他为国共谈判联系人；
第二，他去了陕北，见了毛泽东，又受毛泽东委派，指定他为国共谈判联系代表。
这么一来，南京方面对潘汉年的重视，自然超过了董健吾、张子华、周小舟——值得顺便提一笔的是，不论是国民党还是中共，这些秘密联络渠道往往彼此并不知晓，以求严格保密，彼此平行不交叉。即使是与张学良、杨虎城联络，张不知杨与中共有联系，杨亦不知张与中共有联系，而张、杨又不知蒋与中共有联系。这一切，都在幕后极端秘密地进行。当然，也有个别的例外，如张子华知董健吾，潘汉年知张子华。
潘汉年到了西安，由于要帮助叶剑英做东北军的工作，没有马上去南京。他怕南京方面着急，给张冲拍发了一份密电，告知他已抵西安。
由于南京方面看重潘汉年，张冲接到电报，竟直奔西安。此人也很神通，他通过潘汉年的姐夫路宝宗，找到了潜藏在西安城里的潘汉年。张冲急于想了解毛泽东对谈判的意向，向潘汉年探听口气。听了潘汉年的介绍，张冲随即赶回南京。
不久，叶剑英接到毛泽东10月14日电报，询问：“年何日去沪？”潘汉年得知，料理了工作，便去上海。
10月19日，潘汉年乘火车抵达南京对岸的浦口。那时，旅客们要下车，一节节车厢被推上渡轮，渡过长江，才能抵达南岸的南京，然后乘客再从那里上火车。摆渡要花费两三个钟头。
选择了摆渡那乱糟糟的时刻，趁别人不注意，两位神秘的人物找到了潘汉年，跟他低声交谈着。这两人便是从对岸南京赶来的张冲及其助手杜桐荪。张冲对潘汉年说了到达上海之后的联络途径。就在渡船上，潘汉年把中共中央致国民党中央的信，悄然交给了张冲。
潘汉年到了上海，一副“小开”打扮。他本来是要跟陈果夫会谈的。
陈果夫患肺病多年。他的衣服口袋里，总是放着一个特制的小痰盂。当他发表演说时，那小痰盂便放在讲台上；讲毕，往衣袋里一放，随身带着。那时，他的肺病加重了，日夜咳嗽，便让弟弟陈立夫出面，跟潘汉年会谈。
11月10日，在上海沧州饭店，国共双方的高级代表——陈立夫和潘汉年，一个是国民党“CC”首脑，一个是中共特科要员，终于在上海晤面了。潘汉年向陈立夫递交了周恩来的亲笔信，正式表明他是中共中央指派的联络代表。初次会谈，双方各自阐述立场，互通情报。张冲也参加了会谈。
陈立夫传达了蒋介石的意见。蒋介石说，首先是对立的政权与军队必须取消，中共军队最多只能收编三千人至五千人，师以上干部一律解职出洋，半年后如回国，量才录用，适当分配到南京政府各机关服务。如军队能如此解决，中共所提的政治各点就好考虑了。
蒋介石也深深懂得“枪杆子里面出政权”的道理，所以他开列的第一个条件，便是要解决中共的军队。他的这一条件，理所当然被潘汉年所拒绝。
潘汉年回答道：“这是蒋先生站在‘剿共’的立场上的收编红军条件，不能说是合作抗日的谈判条件。”
潘汉年又道：“请问陈先生，当初邓文仪在俄活动，曾养甫派人去苏区，所谈均非收编而是讨论合作。蒋先生为什么目前有此设想？大概是误认为红军已到了无能为力的地步，或者受困于日本防共之提议。”
接着，潘汉年介绍了中共的立场：两党应合作抗日，建立全国抗日救国联合阵线；停止内战；建立两党代表组成的混合委员会，作为经常接洽与讨论之机关；双方保持政治上、组织上之独立性。
陈立夫听罢，仍强调首先要解决中共的军队，然后再谈别的条件。
这么一来，双方僵持着。首次会谈，便很难谈得拢。
陈立夫建议，请周恩来出来谈判，以使国共双方会谈升级——由周恩来和蒋介石直接会谈。陈立夫道：“你我均非军事当局，从旁谈判也无结果，可否请恩来出来一次？”
潘汉年则以为，像这样“收编”式的会谈，周恩来是不会出马的。
潘汉年说：“如不把贵党的条件报告，仅说蒋愿见他，岂不是要我骗他出来？！”
第一轮会谈，以毫无结果而告终。不过，不论怎么说，国共双方的代表能够坐下来谈判，这本身就意味着历史的进步。
潘汉年把会谈的简况，用密电发往“红都”保安。11月12日，毛泽东复电潘汉年，全文如下：
汉年同志：
（甲）真电（引者注：当时流行以韵月代日，“真”即11日）悉，张子华亦到。
（乙）南京对红军究能容许至何限度，望询实电告。如果条件使红军无法接受，恩来出去也无益。近日蒋先生猛力进攻不能不使红军将领生疑。
（丙）据张子华说，曾养甫云：
（一）党公开活动；
（二）政府继续存在；
（三）参加国会；
（四）红军改名受蒋指挥，照国民革命军编制与待遇，但不变更红军原有之组织与领导。为一致对日，我们并不坚持过高要求，可照曾谈原则协定。
（五）你在南京谈判地待命。
子任
文亥
电末所署“子任”，是毛泽东的笔名。1925年至1926年，毛泽东在《政治周报》上发表文章时，用过“子任”这一笔名。这一回用于电报署名，显然是为了保密。
至于“文亥”，“文”即12日，“亥”即亥时，“文亥”指12日21时至23时。