东乡随后又阐述了他的担心，他认为斯大林一旦翻脸，其威力将“超出我们的想像”——甚至可能会赔上大片的日本领土。但是，其他“六要员”无视东乡的警告，他们一致同意他拟定的备忘录，命他尽快着手谈判事宜。
同一天白天，美国B-29轰炸机袭击了名古屋，将其3平方英里的土地夷为平地。随后的两个星期内，这些超级“空中堡垒”轮番轰炸日本本土，他们把东京16平方英里的土地炸得体 无完肤，同时又对横滨狂轰滥炸。猛烈的空袭使得在日本本土旅行变得极度危险，这也延迟了日本与苏联的第一次外交接触，当时苏联大使雅各布·A.马里克正在东京70英里之外的温泉旅游胜地休假。
最终，战前的日本首相和驻苏大使广田弘毅设法与马里克见面。当马里克在风景如画的山村散步时，广田装作无意间撞见了他。6月3日晚上，他们共进晚餐后，广田向大使祝贺苏联对德作战取得了胜利，并说“日本和苏联在此次战争中没有交手真是幸运１，随即转达了日本希望恢复互不侵犯条约的愿望，他还问马里克苏联是否有意促成日本与美国进行和平谈判。
席间，马里克彬彬有礼，总是环顾左右而言他，没有表露任何明确态度。在三个星期以后的会晤中，马里克态度依旧，这是因为斯大林已经命令他的外交官面对日本的任何请求时都必须装聋作哑。这位苏军最高统帅的算盘拨得很精，他明白苏联从一个战败无助的日本国获得的战利品远比从一个经过和平协商后实力尚存的日本国获得的多得多。
在华盛顿，美国高层领导已经知晓日本与苏联接触的事情——当然不是通过斯大林知道的。自从1940年美国陆军通信兵破译了日军最机密的外交密码后，“美国和日本政府一直保持着秘密联系”。美军斟酌再三，将协商条件送到了日本大使馆：“无条件投降是惟一的出路”。
通过分析，美军司令部逐渐摸清了日本人最担心的事情是：“无条件投降”意味着君主制的消亡。对于每一个日本人而言，天皇的逊位是不可想像的，因为国家荣誉与君主王朝紧密相连。一旦日本人认为美国将囚禁或处决天皇，那么即使是那些希冀寻求和平的日本领导也会以武士道精神顽抗到底的。
5月底，杜鲁门总统的几位顾问向他游说修改无条件投降的命令。他们催促总统保留日本的君主制，日本天皇也不必因为作为被审判的战犯而蒙羞。那些试图改变总统决定的人们包括：代理国务卿约瑟夫·C.格鲁（曾经担任驻日大使10年）、陆军部长史汀生和陆军副部长约翰·J.麦克洛伊。
5月28日，格鲁向杜鲁门递交了由他和尤金·H.杜门（一位国务院研究日本的专家）起草的宣言草稿，这份草稿提及了要保留日本的天皇制度。格鲁提议：“一旦日本军事极端分子倒台，天皇将纯粹是一种象征，对于我们希望出现的新任日本领导人而言，天皇的利用价值将会很大。而对美军而言，天皇在促使日本投降和为美军占领日本本土扫清道路方面都具有很高的利用价值，因为美国人相信日本人是易于改变其信仰的。”
杜鲁门同意了格鲁的宣言草案，他这样评价“好像还不错”，同时命令他与参谋长联席会议就此问题进行商讨。第二天，格鲁和诸多高层官员进行了讨论，他们都看到了保留天皇的好处，但同时也指出因为冲绳战役激战正酣，美国的任何一点让步都可能会被看作是软弱的表现。格鲁向杜鲁门汇报了他们商讨后的意见，杜鲁门告诉他不妨暂且把宣言搁置。
这位新上任的总统继续公开表示要求日本无条件投降，同时，他欣喜地得知，最近的民意测验中，有70%的公民都希望能囚禁或者处决天皇。6月1日，在给国会的专门提案中，杜鲁门反复强调：“日本所期望的是，美国人或许会因为想要士兵平安回家，尽快恢复和平，而对无条件投降计划做出让步。”
两周后，也就是6月16日，杜鲁门会见了陆军部长和联席会议主席，他们共同商讨了打败日本的策略，核心策略是继续进行大规模的常规轰炸，或者登陆日本诸岛。投掷原子弹和外交斡旋都尚未纳入考虑范围。但是，史汀生和副部长仍坚持日本只有无条件投降，美国才会考虑保留其天皇；如果日本否定此建议，那么，美国将会考虑使用原子弹。
会议一开始，马歇尔将军就坚持必须进攻日本。他们计划美军将于11月1日在九州登陆，预计作战人员有76.76万人。马歇尔承认，届时可能损失惨重，但他认为仅仅靠轰炸并不能打败日本，德国就是最好的例子，虽然盟军把德国轰炸得满目疮痍，但他们一直坚持到完全被陆军彻底打败才投降。
史汀生患有周期性偏头痛，此时他看上去苍白虚弱，但他听完马歇尔的建议后，也禁不住点头称赞。但是，这位78岁的政治家强调，美国在行动之前应该仔细研究日本提出的外交斡旋政策，然后知会日本政府。史汀生说：“日本拥有一个穷困潦倒的阶层，他们人数众多，极度憎恨这场战争。我们应该做些事情去唤醒这些人。”至此，陆军部长没再提起进行和平协商的建议。
参谋长联席会议主席威廉·D.莱希上将很快成为第二个史汀生，他说：“即使我们没能促使日本无条件投降，我也不担心日本将来会对我们造成什么威胁，但是我担心如果我们一味坚持无条件投降，会使日本人更加拼命，那样只会让我们的伤亡人数成倍上升。”
为了平息争论，杜鲁门命令参谋长联席会议继续制定进攻日本九州的作战计划。不过，当与会者都站起来准备离开时，杜鲁门转向德高望重的陆军副部长，说道：“麦克洛伊，你一言未发，我想听听你的意见。”
麦克洛伊回答说：“我们应该检讨一下我们的想法，如果我们不能接受政治解决办法，那为什么不直接通知日本政府呢？”
“这正是我的想法１杜鲁门大声说道，他一直等待着有人能与他不谋而合，“把你认为我们应该知会日本政府的内容写下来１
麦克洛伊战前曾经是纽约杰出的出庭辩护律师，此刻，他正激动地跳起来和史汀生争论。最后，他提出如果日本拒绝无条件投降，那么美国应该使用原子弹。麦克洛伊感觉到当他提到原子弹时，与会者都“禁不住打了个寒颤”，因为人们从来没正式提到过“原子弹”这个最高机密，平时都称之为“合金桶”或“S-1”。
杜鲁门兴奋地说："那太好了！"随即他命令麦克洛伊起草宣言文件，并补充说：“这个阶段先不要提起炸弹。”于是，麦克洛伊、尤金·D.杜门和国务院远东事务部部长约瑟夫·W.包兰亭即刻开始起草文件，该文件也就是日后著名的《波茨坦宣言》。7月2日，他们将文件草案呈交给杜鲁门总统。文件列出了日本投降必须遵从的条款，包括解除日本的军事武装、审判战犯和在日本驻军等内容。值得注意的是，文件的第12章提及允许日本保留他们神圣的天皇。
文件表明：“一旦日本建立了热爱和平、对人民负责的政府，盟军立即撤走驻日部队。如果日本新政府遵循和平政策，并能取得其他爱好和平的国家的信任，那么日本可以在现有王朝下建立君主立宪制国家。”
杜鲁门很满意文件草案，但他同时告诉麦克洛伊，暂时不要写上威胁日本的言语，“我们只有知道了S-1的进展情况，才能最后定稿”。显然，杜鲁门打算在去波茨坦的路途上再仔细斟酌这件事，这表明杜鲁门的态度有了很大的转变，即使他仍要求日本无条件投降，但还是打算给日本一个退出战争的机会。
7月6日，杜鲁门在弗吉尼亚的诺福克港登上了“奥古斯塔”号巡洋舰。他将从这里出发，前往比利时的安特卫普，然后飞往波茨坦与丘吉尔、斯大林会面。没有人知道，杜鲁门重新考虑这项重大决策时，经历了多么痛苦的挣扎；也没有人知道，他在旅途中和詹姆斯·贝尔纳（7月3日刚担任国务卿）都谈论了些什么。历史对此毫无记录。但是我们知道，在为期9天的旅途中，杜鲁门最终决定删去12章的最后一句话，因为如果他们在波茨坦宣读了这条带有威胁性质的条款，那么日本就彻底失去了不失体面投降的机会。
7月17日，斯大林第一次见到了美国的新任总统杜鲁门。杜鲁门在其下榻的别墅热情地接待了斯大林。这一天，杜鲁门非常高兴，因为他得知就在前一天阿拉默果尔多的钚原子弹试验获得了成功，这意味着他无需斯大林帮忙攻打日本了。
斯大林通过翻译和杜鲁门、贝尔纳进行了短暂的交谈，他告诉二人日本的和平提议搞得他不胜其烦——当然，美国早已知道这件事情，这还有赖于美军窃听了日军的通讯。同时，斯大林还表示苏军将在几个星期内从满洲里攻打日军。
第二天，杜鲁门和丘吉尔共进午餐时，杜鲁门询问丘吉尔是否应该把原子弹的事情告诉苏联。丘吉尔认为，如果杜鲁门现在把原子弹的事情告诉斯大林，那么苏联人肯定会因为没有尽早知道这件事而大发雷霆。到时候，杜鲁门就不得不向他解释更多的事情。
丘吉尔还建议应该恢复宣言第12章的最后一句话，要让日本人保留天皇。他说：“这样我们不但能够确保未来的和平和安全，同时还给日本人留了面子，让他们放心日本将独立存在。”
6月20日，艾伦·杜勒斯飞到波茨坦告诉史汀生，在瑞士国际贸易银行任职的日本官员通过瑞典外交官珀尔·雅各巴森和他进行了接触，这位日本银行家告诉雅各巴森，为了争取和平，他们愿意和东京所有具有和平意愿的社团、党派联系。
但是史汀生太累了，而且他正专注于波茨坦会议的各种文件，因而他根本没注意杜勒斯在说什么。陆军部长对日本人的外交接触持有怀疑态度，他不相信日本人会在联合公约的基础上签定和平协议，他更愿意相信一份美军情报的分析结论，那就是“日本人现在不过是在玩花样以争取时间，他们希望盟军因为疲劳或不团结等原因，致使日本有机可乘，签定和平协议。”
与此同时，杜鲁门身边的军界要员们正在激烈地讨论是否应该使用原子弹。7月22日，在杜鲁门亲自参加的会议上，陆军航空部队总指挥亨利·阿诺德将军极力反对马歇尔将军的进攻计划，他认为常规轰炸就能轻易结束这场战争。而且，不少将领的意见和德怀特·D.艾森豪威尔将军的意见一致，他们认为原子弹“并不是拯救美国人的必要措施”。