会议开始，许多代表却姗姗来迟。5月24日，马萨诸塞的鲁弗斯·金写信回去说，新英格兰的代表竟然只到了他一位，真令他“痛心疾首”。“这种慢步调真不像话，拜托你们大家可不可以快一点来。”新罕布什尔由于州库拮据，没法子负担费用，本来有四位代表，到将近8月才来了两位。其中一位是来自朴茨茅斯的富商兰登，曾任该州议长，据说“仪表堂堂，举止高贵；其人热心名望之切，有如恋人情爱之烈，义士节操之贞”。罗得岛则索性来个拒不出席。位于首府普罗维登斯的该州议会，控制在农民党派手中；他们甚至曾立法规定，如果债权人拒收罗得岛当地一路膨胀的通货，将遭罚款处置。许多政客因此大肥，这已经是人人皆知的事实。而一个强有力的中央政府，一定会勒令债务人以金银正币偿债，但罗得岛目前可是一个子儿也没有。波士顿一家报纸厌恶之余，把罗得岛改名为“流氓岛”①，建议把他们“逐出合众国，或是干脆让邻近几州把它瓜分了算了”。

① “流氓岛”（Rogue Island）与“罗得岛”（Rhode Island）谐音。

对于这个似乎在蓬勃发展的小州，大家对它的嘲弄愤怒不断。纽黑文一位人士，公开宣称“罗得岛的作为，连最蛮荒的野人看了也要脸红。那个小不点儿州，是我们政治体中桀骜不驯的一员，是我们大家的笑柄和耻辱”。“罗得岛，”会议期间，华盛顿曾于7月1日写道，“仍然一味坚持它那无礼、不当、下作、可耻的行为；近来在其所有的公共议事中，便一再展现了这种作风。他们到现在为止，仍然不曾派代表前来开会。”杰斐逊则用法文，叫罗得岛为那个“什么玩意（vaut-rien）”。从纽约的国会过来的麦迪逊，则本着一向凡事准备周到的作风，在会议开幕十一天以前就早早地到了费城。长年浸淫在学问研究里面，麦迪逊已经具有了一种洞明世事的远见。早在当年4月份，他就在写给华盛顿的一封信里，一一列出大会该当讨论的几项重点。麦迪逊，个子矮小，有人笑他“还没有半个肥皂大”。 他的声音低沉轻微，开会时，大家得叫他把声音放大一点，有时书记员也无法记全他的发言内容，“因为他说话声音太小没法听见”。朋友们则昵称他为“杰米”。

麦迪逊有一个难得的优点，那就是他虽然执拗却能变通——很少人能同时兼具这两项特质。所有代表之中，要数他在学理知识上准备得最为充分。应他所请，大他八岁的杰斐逊从巴黎寄来书籍，麦迪逊请他把历来所有有关宪政民权的书籍都一并搜罗寄来。寄来的书不是一两本，而是上百本，其中包括了三十七巨册的新版《方法论百科全书》，政治理论、各国法律、历史，柏拉玛克、伏尔泰、狄德罗、马布利、内克尔、德伯恩的著作，还有十一大卷传记、忆往、史述，以及法国革命派政治家米拉波正好适时出版的《辛辛那提协会》。为了报答，麦迪逊则回送他各式各样的美国果树树苗，如胡桃、特选苹果、蔓越橘之类，以在法国展示。不过杰斐逊要他运去的北美负鼠和一对“弗吉尼亚红雀”，他却没有遵命办成。麦迪逊潜心研究古往今来所有存在过的同盟联邦，长篇累牍地一一比较其优劣得失，并在各个分析后附上题为《合众国政治制度的弊端》的个人论述部分。他主张：“在需要有一致行动的决定上，应该让国家级的中央政府具有绝对并积极主动的权力。对于各州所有的立法决议，中央政府也应该像历来英王一般具有否决的权力。而这个国家的最高权力，也应该延伸到司法部门。”