1787년 5월, 미국의 초기 지도자들이 필라델피아에 모였습니다. 이들은 13개주를 느슨하게 묶어놓은 연방 조항을 수정할 계획이었습니다. 그러나 이들은 헌법을 완전히 새로 작성했습니다. 미국 정부 체제를 만든 이 정치적 문서는 아직도 가장 기본이되는 미국의 법으로 존재합니다.

필라델피아에서 열린 회의에 맨 처음 도착한 사람은 버지니아 대표인 제임스 매디슨이었습니다. 매디슨은 버지니아주의 다른 대표들에게도 일찍 도착하라고 당부했습니다. 그는 강력한 중앙 정부 구성안을 갖고 회의장에 들어갔습니다. 그는 다른 주에서는 누구도 그같은 일을 추진하지 않을 것으로 믿었습니다. 버지니아주의 다른 대표인 죠지 위쓰와 죤 블레어는 요청대로 일찍 도착했습니다. 이들 세 사람은 매디슨 계획을 추진했습니다.

회의는 5월 14일에 열리도록 돼있었습니다. 죠지 워싱턴은 하루 먼저 도착했습니다. 그는 필라델피아 외곽에서부터 예포와 군 의장대의 환영을 받았습니다. 죠지 워싱턴은 미국에서 가장 유명한 인물이었습니다. 그는 영국으로부터 독립을 쟁취하기 위한 전쟁을 승리로 이끈 인물이었던 것입니다.

워싱턴이 필라델피아에서한 맨 처음 일은 벤자민 프랭클린을 방문한 것이었습니다. 프랭클린은 미국의 중요한 정치 지도자였습니다. 그는 이 회의에 필라델피아를 대표하는 사람이기도 했습니다. 당시 프랭클린은 81세였습니다. 연로한 그는 신체적으로는 허약했지만 정신력은 강했습니다. 필라델피아에 온 모든 중요한 인물들은 심지어 워싱턴까지 포함해 모두들 프랭클린을 찾았습니다.

회의 첫날 버지니아 대표들은 회의장인 주 의사당으로 갔습니다. 이들은 1776년 독립 선언서가 서명됐던 방에 모였습니다. 그방에 모인 사람중 다른 지역 사람들은 필라델피아 대표들이었습니다. 그중 로버트 모리스는 독립 전쟁중 많은 자금을 댄 사람이었습니다. 또 한 사람은 구베니어 모리스였습니다. 이들은 성은 같았지만 인척 관계는 아니었습니다. 또 한명의 필라델피아 대표는 제임스 윌슨이었습니다. 그는 독립 선언서에 서명한 인물이고 초기 대륙회의의 대표였습니다. 제임스 윌슨은 제임스 매디슨과 같이 강력한 중앙 정부 주창자였습니다.

버지니아와 펜실바니아 대표들은 대화롤 첫날 하루를 보냈습니다. 이들은 다음날 아침 다시 만나기로 했습니다. 다른 11개 주에서 대표들이 오지 않은데 대해 아무도 걱정을 하지 않는것 처럼 보였습니다. 북동부인 뉴햄프셔에서 말을 타고 대표가 도착하는데는 그로부터 2주일이 걸렸습니다. 남부인 죠지아에서 대표가 오는데는 무려 3주가 걸렸습니다. 한동안은 그외 아무 지역에서도 대표가 오지 않을것처럼 느껴지기도 했습니다. 도착한 사람들은 7개주 대표만 모이면 회의를 시작하기로 합의했습니다.

뉴욕에서는 3명의 대표를 보냈습니다. 그것은 놀라운 일이었습니다. 왜냐하면 모든 사람들이 뉴욕은 사람을 보내지 않을 것으로 생각했기 때문이었습니다. 뉴욕 지사는 강력한 중앙 정부안을 지지하지 않고 있었습니다. 그러나 뉴욕 대표중 한명은 그것을 지지했습니다. 그는 알렉산더 해밀턴이었습니다. 해밀턴은 독립 전쟁중 죠지 워싱턴 장군의 부관으로 복무했었습니다. 그는 합중국이 강력한 중앙 정부를 필요로 한다는 점을 굳게 믿었습니다. 어떤 사람들은 그가 왕이 다스리는 나라를 원한다고 말하기까지 했습니다.

날이 가면서 차츰 대표들이 도착하기 시작했습니다. 매사추세츠에서는 루퍼스 킹과 엘드리지 게리가 나왔습니다. 사우스 캐롤라이나에서는 죤 러틀렛쥐, 찰스 핑크니가 왔고, 뉴욕에서는 죤 랜싱과 로버트 예잇즈가 왔습니다. 메릴랜드로부터는 루터 마틴과 제임스 매킨리가 도착했습니다. 코네티커트는 로저 셔먼과 올리버 엘즈워쓰를 보냈습니다.

윌리암 퓨와 윌리암 피어스는 죠지아를 대표했습니다. 뉴저지를 대표한 사람은 데이빗 브리얼리와 죠나단 데이튼이었습니다. 뉴햄프셔에서는 존 랭든과 니콜라스 길만, 델라웨어에서는 거닝 베드포드와 죠지 리드가 왔습니다. 노스 캐롤라이나는 알렉산더 마틴과 윌리암 블라운트를 보냈습니다.

12개주에서 모인 대표들은 모두 55명이었습니다. 펜실바니아는 가장 많은 수인 8명의 대표를 참석시켰습니다. 그러나 로드 아일랜드는 아무 대표도 보내지 않았습니다. 대표들중 몇명은 고령이었습니다. 그러나 대부분은 20대와 30대였습니다. 대표들의 평균 연령은 겨우 43세였습니다.

역사적으로 높은 평가를 받는 이 회의에는 두명의 유명 인사들이 빠져있습니다. 즉, 죤 아담스와 제임스 매디슨이 참석하지 않은 것입니다. 당시 아담스는 미국을 대표해 영국에 파견돼 있었고, 제퍼슨은 프랑스 주재 미국 대표였습니다. 이들 두 사람은 신생국 정부에서도 일할 생각을 갖고 있었습니다. 그래서 이들은 필라델피아 회의에 지대한 관심을 갖고 있었습니다. 이들은 친구들과의 서신을 통해 일이 어떻게 돌아가는지를 파악했습니다.

5월 24일이 될때까지도 7개주 대표가 모이지 못했습니다. 5월 25일이되자 드디어 일이 시작됐습니다. 대표들이 먼저 해야 될 일은 회의록을 작성할 서기를 선정하는 일이었습니다. 이들은 윌리암 잭슨 소령을 임명했습니다. 잭슨은 자기가 그 일을 하게 해달라고 워싱턴 장군에게 요청했었습니다. 워싱턴은 그렇게 할 수 있도록 도움을 주었습니다. 그러나 잭슨은 우수한 서기가 못됐습니다. 그는 회의 내용을 상세하게 기술하지 않았습니다.

다행히도 제임스 매디슨이 그 일을 해냈습니다. 회의가 시작되는 순간부터 매디슨은 모든 대표의 발언을 바짐없이 신중하게 기록했습니다. 그는 글을 쓰는 일을 멈추는때가 없었습니다. 알렉산더 해밀턴과 루퍼스 킹도 기록을 했습니다. 그러나 이들의 기록은 짧았고 끝까지 기록하지도 않았습니다. 제임스 매디슨이 아니었다면 1787년 필라델피아의 역사적인 회의 내용은 상세히 전해지지 못했을 것입니다. 제임스 매디슨은 후에 어떻게 그 일을 해냈는지 다음과 같이 회고했습니다.

'나는 의장의 앞에 자리를 잡았다. 다른 모든 대표들이 나의 좌우에 앉게됐다. 나는 의장이 한말을 모두 들을수가 있었다. 다른 대표들이 한 말도 모두 들을 수 있었다. 나는 내가 이해할 수 있는 것만을 기록했다. 그리고, 저녁에 방에 돌아와 모든 발언과 행동에 관한 기록을 완성했다. 나는 매일 회의에 참석했다. 대표들이 회합을 하고 대화를 하는한 나는 언제나 그곳에 있었다.'

자신의 기록에서 매디슨은 스스로를 MR. M이라고 불렀습니다. 매디슨의 기록 전문은 그로부터 30년이 지나서야 출판됐습니다.

대표들이 맨 먼저 처리해야될 안건은 회의의 의장을 선출하는 일이었습니다. 여러 대표들이 죠지 워싱턴을 추대하자고 다른 대표들에게 촉구했습니다. 대표들은 그에 동의했습니다. 그들에게는 워싱턴이야말로 가장 알맞은 선택이었습니다.

이에 따라 죠지 워싱턴은 짧은 연설로 개회를 정식 선포했습니다. 그는 대표들에게 자신을 의장으로 뽑아준데 감사를 표했습니다. 워싱턴은 동시에 그것은 지나친 예유라며 겸손해 했습니다. 그는 대표들에게 자신이 실수를 저지르더라도 용서해 달라고 당부했습니다. 죠지 워싱턴은 실제로 회의를 주재해 본 적이 없는 사람이었습니다. 짧은 인사를 한 다음 워싱턴은 자리에 앉았습니다. 그후 4개월동안 워싱턴은 꼭 필요한때가 아니면 발언 하지 않았습니다.

회의 첫날은 순조롭게 진행됐습니다. 대표들은 회의 규칙을 정하는 소 위원회를 구성하기로 합의했습니다. 이들은 쉽게 버지니아의 죠시 위쓰, 뉴욕의 알렉산더 해밀턴, 사우스 캘롤라이나의 찰스 핑크니등 세 사람을 선정했습니다. 이때까지만해도 회의는 우호적인 분위기 속에서 진행됐습니다.

그러나 오래지않아 심각한 논란이 대두되기 시작했습니다. 말썽은 큰주와 작은 주간에 발생했습니다. 합중국 정부에서 각 주가 어느 정도의 권한을 가질 것인가가 문제였습니다. 인구가 많은 주는 작은 주보다 더 많은 권한을 가져야 하는가 하는 문제는 회의가 진행되는 4개월동안 내내 논란 꺼리가 됐습니다.