戴笠在布置暗杀张敬尧的同时，在上海则积极布置暗杀国民党著名的左派人士杨杏佛。这是戴笠出任特务处长以后，经自己直接精心策划放的第一枪。
杨杏佛早年参加辛亥革命，曾任孙中山先生秘书、孙总理治丧筹备处总干事、国民党上海市党部委员、南京国民政府大学院副院长、中央研究院总干事。1932 年12 月与宋庆龄、蔡元培等发起建立中国民权保障同盟，任执行委员兼总干事，主持同盟的日常工作。同盟的宗旨是援救九一八以来因爱国抗日而受到迫害的政治犯，争取人民的言论、出版、集会、结社等项自由，调查监狱的状况和公布国内剥夺民权的事实，以唤起舆论的注意，反对到处盛行的监禁、酷刑和处决的制度等，这就触犯了蒋介石法西斯独裁统治的大忌。因此，从一开始蒋就把中国民权保障同盟视为心腹之患，决心伺机加以根除。只因宋庆龄是同盟主席，蔡元培是副主席，而且鲁迅、胡适亦在上海和北平分会中，名人贤达荟萃，一时难以下手。
促使蒋介石杀杨的直接原因，是杨杏佛1933 年春的华北之行。1933 年1 月，长城战起，华北动荡，杨杏佛代表中国民权保障同盟赴北平视察。他在华北期间到处发表演讲，参加示威游行，抨击监狱黑幕，呼吁抗日救国，要求民权自由，揭露腐败政治等等。一时间平津等地的抗日民主爱国运动沸沸扬扬，打乱了蒋介石在华北抱定“一边抵抗，一边交涉”方针的贯彻。何应钦对此抱怨不止，戴笠亦将杨杏佛在华北的所作所为密报蒋介石。
更使蒋介石恼火的是，杨杏佛陪同宋庆龄4 月5 日亲赴南京，要求国民党政府立即释放被关押的省港大罢工领导人罗登贤和一切政治犯。宋、杨还以“中央委员”名义要求蒋介石停止内战，国共合作，一致抗日。这就触动了蒋介石政治神经中最为敏感的部分，使蒋到了忍无可忍的边缘。
5 月14 日，国民党政府与租界当局合谋，绑架了进步作家丁玲和史学家潘梓年，并杀害了应修人。全国舆论沸腾，国民党政府却矢口否认。杨杏佛经过深入调查，掌握了重要证据，扬言要予以公布。同盟和杨杏佛的此举使国民党政府极为尴尬。这一事件如果暴露，无疑给国民党政府脸上扇了一记耳光，这是蒋绝对不能容忍的。
5 月间，蒋介石召见戴笠，指令他要采取严厉手段，对“同盟”有所戒。考虑到“同盟”都是由名人贤达组成，在国内外深孚众望。下手轻了，不能起到震慑作用；下手重了，影响所及，又会在政治上引起很大的麻烦，难以收场。因此，蒋进一步叮嘱戴笠，要注意杀掉一个“适当”的人来“惩戒”同盟。他要戴笠亲自到上海拟出方案，供其选择，然后实施。
戴笠受命后，亲赴上海，召集心腹特务们进行分析研究。他认为，“同盟”领导人中，宋庆龄地位特殊，杀之顾虑颇多；蔡元培在“同盟”中不甚活跃，杀之价值不大；鲁迅、胡适地位稍低，杀之不足以摧毁“同盟”。唯有杨杏佛地位适宜，且极其活跃，杀之较为合适，可以起敲山震虎、杀一儆百的作用。戴笠把分析结果报告蒋介石批准，当即到上海周密布置此次行动，不得让“同盟”抓住把柄。
戴笠首先指挥上海区法租界情报组的特务，把杨杏佛的住址及生活特点、行动规律、来往接触人员等调查得清清楚楚。这其中，有两个情况引起了戴笠的注意。一是杨杏佛原住霞飞坊5 号，1 年前与夫人赵志道离婚后，寄寓在亚尔培路331 号中央研究院出版品国际交换处，这个地方属法租界，租界巡捕房的巡逻警车与执勤巡警每日来回流动警戒，防卫很严；二是杨杏佛喜欢骑马，并在大西路养了两匹良种马，雇有马夫，专事饲养。如无特殊情况，每天清晨必去大西路、中山路一带驰骋一两个小时，大西路、中山路一带属华界，治安归国民党政府管理。
戴笠根据掌握的情况，制定了两套行动方案。第一套方案是在大西路、中山路一带进行狙击，在此时、此地下手机会多，把握性大，得手后易于行动人员撤出，便于处理善后事宜等等。第二套方案是在中央研究院附近进行布置，在此时、此地下手的机会也多，把握性亦大，缺点是一旦被租界巡捕发觉，行动人员较难撤出，有一定风险。
戴笠虽然比较肯定第一套方案，认为此方案易于成功。但他又是个很细心的人。见蒋时，又把第二套方案放在口袋里，以防不测。多年来，他对付蒋的办法就是当第二道菜没有备好时，决不把第一道菜送上去。蒋考虑问题，历来有出人意料之处，其人心机诡谲，不可测度；戴笠应变在先，因而被蒋视为鬼才，受到信任。
果然，当戴笠信心十足地把第一套方案报上去后，当即被蒋否定。蒋认为大西路、中山路地区属华界管辖，在这些地方发生了如此大案，必然要被国内各界舆论追究，到那时案子破与不破都不好交代，徒然自相惊扰，自找麻烦；同时，“同盟”的领导人大都居住在租界以内，在租界以外地区杀杨，亦达不到敲山震虎、儆戒宋庆龄等“同盟”领导人的作用。只有在租界内执行，特别是在宋庆龄寓所附近下手，才能起到一箭三雕的作用，既可以杀一儆百，又可以显示特务们的力量，还可以不负破案的责任。
戴笠听到这里，用手抹去额角上渗出的细密汗珠，并从口袋里掏出第二套行动方案，双手呈送上去。蒋介石看到亚尔培路331 号距宋庆龄寓所较近，点头说：“很好！你们就照这样去干吧！”
行动方案确定后，戴笠亲自挑选赵理君、王克全等人组成行动组。赵理君是四川人，黄埔五期毕业，特务处成立之初就在上海负责行动工作，为人心狠手辣，果断干练，每遇重大行动，能临危不乱，指挥若定，故被委以组长重任；王克全是安徽人，原系中共江苏省委负责人，被捕叛变后加入特务处。此人考虑问题周密细致，办事机警敏捷，亦富有暗杀、绑票经验，故被委以副组长，协助赵理君指挥行动。组员李阿大、过得诚、施芸之等人均是上海滩上杀人越货的惯匪、手辣心黑的“老枪”。尤其是李阿大，为上海苏北帮的著名杀手，枪法很准，胆量极大，是这个组最主要的行动人员。
戴笠还规定，在整个行动中每个行动人员都必须使用化名，并严守秘密，对父母妻子以及“团体”内的同事，甚至直接领导都不得与闻；要做到“不成功便成仁”，如不幸被捕，应即自杀，不得贪生怕死，泄漏机密，否则将按“团体”纪律给予严厉制裁。为了便于指挥和联系，戴笠指定法租界迈尔西路1 幢3 层楼内的寓所作为行动组的集合地点，由王克全率领行动组人员居住进去；法租界霞飞路中段巷内德丰俄国大菜馆楼上的寓所作为一线指挥所，由赵理君指挥；法租界枫林桥附近的1 幢两层楼寓所作为总指挥所，戴笠亲自坐镇指挥。
戴笠在布置暗杀计划的同时，亦曾动过不少脑筋，企图使杨杏佛不战自退。第一步是通过国民党南京市党部“书面警告”杨杏佛，攻击他为“政治犯”争民权，乃是“为反动张目”，造谣“同盟”的活动是“保障反革命及共产党要犯”，请最高当局下令“解散该团体”；第二步是发动国民党的报刊喉舌大肆攻击“同盟”是“由杨杏佛献策”、由宋庆龄组织起来，专“抱国际共产党的粗腿”的组织，其成立“根本不合民运法规”，应予取缔等等；第三步是通过国民党政府通知杨杏佛，表示要给一个名义让他出国考察，以脱离国内的政治运动。岂知杨杏佛软硬不吃，不退反进。公然联合文化教育界38 位知名人士领衔签名，要求南京政府行政院、司政行政部释放政治犯，保障民权等等。蒋介石闻知大怒，下令戴笠抓紧布置，对他进行制裁。
为此，戴笠于6 月初从华北赶回，亲赴上海坐镇指挥整个行动。他先让赵理君发出了1 封最后通牒式的恐吓信，信封内装有1 颗子弹头，信上威胁他必须退出“同盟”，否则将采取断然处置。杨杏佛接信后为之一哂，毫不动摇。他秉性刚毅，为人正气凛然，抱着“革命本是自动的牺牲”的决心，竟把特务的行径在报纸上揭露公布。这更使戴笠恼羞成怒。经报请蒋介石同意，戴笠下令于6 月17 日晨行动。这一天正是星期六，杨杏佛照例起得很早，赶到大西路、中山路上去跑马锻炼。赵理君和王克全已预先赶到中央研究院附近占好地形，准备下手。岂知当杨杏佛出现时，法国巡捕房的1 辆巡逻警车恰好从中央研究院门前经过，赵理君耐着性子等这辆警车开过后，刚要行动，又有1 队换班巡警过来。于是，机会尽失，行动人员只得撤回向戴笠报告。戴笠研究了当时情况，认为租界巡捕房并没有掌握这次行动的任何消息，意外情况的出现只是偶然的巧合，于是下令于6 月18 日星期日的早晨继续进行狙击。
6 月18 日早晨6 时左右，赵理君、王克全已按照戴笠的布置，按时进入预定地点守候，戴笠则在枫林桥寓所专心等候消息。8 时左右，杨杏佛带长子杨小佛从院中坐车去大西路马厩。当杨杏佛的纳喜牌汽车缓缓驶出中央研究院大门时，守候在四周的特务们从4 个方向同时拔枪射击，司机祥度身中两弹，杨杏佛身中3 弹，杨小佛腿中1 弹。赵理君见目的达到，立即下令撤退。这时四周响起了尖厉的警笛声，特务的汽车已开动，而过得诚因起初跑反了方向，此时尚在汽车之后数丈之外。赵理君见情况紧急，立即向过得诚甩手一枪，指挥汽车逃离现场。过得诚因赵理君的一枪未击中要害，踉跄几步，眼看四周巡捕包围上来，只得按戴笠交代的誓言，向自己颈部开了一枪，一下子昏死过去。
戴笠在枫林桥指挥所得到杨杏佛已被击毙的消息，心中很高兴。后听说过得诚仅受伤被捕，并说出化名，大为震怒。当即通知安插在巡捕房的内线范广珍，用毒药将过得诚毒死。6 月20 日晚，戴笠把上海的事情处理完毕，并对赵理君行动组的人员论功行赏，发给奖金，及时返回南京，向蒋报告了杀杨的具体经过。蒋连连点头说：“很好！很好！”
杨杏佛之死，震动上海，波及全国。宋庆龄、蔡元培、何香凝、沈钧儒、鲁迅等各界知名人士及孔祥熙、吴稚晖、俞鸿钧等政府要员亲往万国殡仪馆吊唁，行政院长汪精卫、上海市长吴铁城也派代表前往；宋子文、陈公博、朱家骅、李石曾、陈铭枢、李烈钧等名流均赠挽联及花圈致哀。
蒋下令暗杀杨杏佛，主要目的在恫吓宋庆龄等“同盟”领导人。但效果恰恰相反，宋庆龄仍然积极主持“同盟”的活动，揭露蒋的独裁统治。蒋在忍无可忍之中，交代戴笠要继续研究对付宋庆龄的办法。戴笠也曾派特务每天在法租界莫里哀路的宋寓所附近进行监视，策划用女特务打入宋庆龄公寓内部，用“美男计”勾引宋的女佣等等，均未能奏效。于是，戴笠与亲信特务、上海区法租界情报组长沈醉密谋，准备用撞车的办法，将宋庆龄撞成重伤，失去工作能力。戴笠为此制定了周密的计划，沈醉则按计划进行精心准备和反复训练。但当戴笠最后向蒋介石汇报时，考虑到一旦掌握不准，如将宋撞死，则后果不堪设想，故在最后关头放弃这一行动。这是蒋介石和戴笠在暗杀活动中因有所畏惧而放弃的唯一的一次行动方案。杨杏佛被暗杀，全国掀起抗议活动，上海真如、暨南大学的学生运动闹得尤凶。戴笠一再指示上海区：“一定要严密注视学生运动，防患于未然。中国的许多大事件，多数是学生闹起来的”。戴笠同时指示上海区各情报组，每天的主要任务是监视居住在租界内的反蒋分子和进步人士，如鲁迅、左翼作家联盟的负责人等，每天要写“监视日报”，及时报送戴笠，以防不测。