필라델피아 제헌 회의의 가장 첨예한 대립은 큰주와 작은 주가 중앙 정부에서 어떻게 대표권을 갖느냐, 그리고 의회에서 몇개의 표를 갖느냐 하는 것이었습니다. 이 문제에 관한 논란은 여러주 동안 계속됐습니다. 작은 주들은 중앙 정부에서 큰주에게 권한을 빼앗길 것이라고 굳게 믿고 있었습니다. 이들은 여러차례 제헌회의에서 탈퇴하겠다고 위협했습니다. 작은 주의 하나인 뉴져지의 윌리암 패터슨 대표는 이렇게 말했습니다.
“여기 모인 여러분중에 큰 주의 일부는 작은 주가 어떤 안에 동의하지 않으면, 자기들끼리 연맹체를 구성하겠다는 뜻을 비치고 있습니다. 그렇게 하고싶으면 하라고 하십시요. 그러나 그들은 다른 주까지 자기들에 합세하라고 강요할수는 없습니다.” 연로하고 병약한 펜실바니아의 벤자민 프랭클린은 그같은 논쟁이 한창일때, 조용히 앉아서 무엇인가를 쓰고 있었습니다. 그리고는 발언을 하겠다고 나섰습니다. 그는 같은 펜실바니아의 제임스 윌슨에게 자신의 글을 읽어주도록 부탁했습니다. 그는 이렇게 물었습니다. “왜 작은 주들은 중앙 의회에서 큰주가 더 많은 대표권을 가지면 그들에게 먹힌다고 생각하십니까? 그같은 두려움을 느낄 이유가 하나도 없습니다. 작은 주를 삼킨다고 해서 큰주가 얻을 것은 아무것도 없습니다. 큰주들은 그점을 알고 있습니다. 또 나는 큰주들이 그렇게 하리라고 믿지도 않습니다.” 대표들은 오랫동안 대표권 문제에 관해 합의를 이룰수가 없었습니다. 그래서 다른 문제들을 논의하기 시작했습니다. 그중 하나는 양원의 이름을 짓는 문제였습니다. 대표들은 이 기구를 여러가지 이름으로 불렀습니다. 그러나 대부분은 제 1 지부라는 의미로 First Branch, 제 2지부라는 의미로 Second branch로 불렀습니다. 그러나 저희 프로그램에서는 현재 사용중인 이름대로 상원, 또는 하원으로 말씀드리겠습니다. 다음 문제는 후보자와 유권자를 결정하는 것이었습니다. 첫번째 문제를 해결하는데는 오랜 시간이 걸리지 않았습니다. 하원의원 후보는 최소한 25세가 돼야 한다고 합의했습니다. 또7년 이상 미국 시민권자로 산 사람이어야 했습니다. 그리고 선거가 실시될 당시 자신의 출신구에 거주하는 사람이어야 했습니다. 상원 의원 후보는 30세 이상으로 했습니다. 미국 시민권자로는 9년 이상, 그리고 선거 당시 그 주에 거주하는 사람으로 자격을 결정했습니다. 다음에는 임기였습니다. 코네티커트의 로져 셔먼은 하원 의원은 매년 선출해야 된다고 생각했습니다. 매사츄셋즈의 엘브릿지 게리도 동의했습니다. 그는 장기적 임기는 독재를 가져올 염려가 있다고 생각했습니다. 그러나 버지니아의 제임스 매디슨이 이에 반대했습니다. 매디슨은 정부내의 부처간을 오가는 시간만도 일년은 소요된다고 말했습니다. 그래서 매디슨은 3년을 제의했습니다. 결국 하원 의원 임기는 2년으로 결정됐습니다. 상원의원 임기에는 여러가지 안이 나왔습니다. 몇몇 대표들은 종신제로 하자고 말했습니다. 그러나 최종적으로는 6년으로 합의가 이루어졌습니다. 다음에는 의원들의 보수를 결정해야 했습니다. 얼마를 지불해야 할것인가, 아니면 아예 보수는 없는 것으로 할것인가. 어떤 대표들은 의원들이 각주를 대표해서 중앙 정부에 나감으로, 주가 봉급을 지불해야 된다고 말했습니다. 어떤 사람들은 의원들의 보수 문제는 의회에서 스스로 결정하고, 돈은 연방 재무부에서 타야 한다고 말했습니다. 제임스 매디슨은 그같은 안이 부끄러운 것이라고 주장하면서, 의원들의 봉급 액수를 헌법에 명시해놓아야 한다고 말했습니다. 매디슨의 안은 여기서도 관철되지 못했습니다. 결국 헌법은 ‘의원들은 업무에 상응하는 보수를 받으며, 자금은 연방 재무부에서 지불한다’고만 언급하는데 그쳤습니다. 투표권자의 자격을 결정하는데에는 재미있는 문제가 등장했습니다. 그것은 민주주의에 관련된 것이었습니다. 1787년 당시 ‘민주주의, 즉 democracy’란 말은 오늘날의 민주주의라는 단어가 주는 의미와 크게 달랐습니다. 필라델피아에 모인 사람들중 많은 사람들에게는 민주주의란 폭도들의 법으로 인식됐습니다. 국민 대중에게 통치를 맡긴다는 것은 무정부 사태를 자초하는 것으로 생각됐습니다. 로져 셔먼은 국민이 정부와 관계를 갖는 것은 가능한한 최소로 제한해야 한다고 선언했습니다. 엘브릿지 게리는 우리 주변에서 보는 사악함은 지나친 민주주의에서 흘러나온다고 말했습니다. 국민이 직접 중앙 의회의 의원들을 선출하는데 대표들이 왜 그토록 반대를 했는가는 이같은 언급에서 엿볼수 있습니다. 셔먼, 게리, 그리고 여러 다른 대표들은 주 의회가 연방 의원들을 선출해야 된다고 주장했습니다. 버지니아의 죠지 메이슨은 국민의 직접 선거를 주장했습니다. 그는 국민에게는 대표자가 있어야 하며, 따라서 그 대표자는 국민이 뽑아야 한다고 역설했습니다. 제임스 윌슨도 여기에 동의했습니다. 그는 정부의 권한이 합법적인 권한의 근원에서 나오는 것을 보기 원한다고 말하고 그 근원은 바로 국민이라고 강조했습니다. 제임스 매디슨은 국민이 상원이나 하원 어느 하나라도 국민이 직접 뽑아 구성해야 된다고 강력히 주장했습니다. 그것이야말로 자유로운 정부의 기본적인 조건이라는 것이었습니다. 회의의 대부분 대표들은 메이슨, 윌슨, 매디슨 등의 안에 찬성했습니다. 대표들은 하원의원을 국민이 직접 뽑는다는 안에 합의했습니다. 이제 상원의원 선출 방식을 논의할 차례가 됐습니다. 여기에는 네가지 안이 등장했습니다. 하원에서 선출하는 방식, 대통령이 임명하는 방식, 주 의회가 선출하는 방식, 그리고 국민의 직접 선거 방식, 이상 네가지였습니다. 이들 안에 대한 찬반 주장은 하원의 경우와 같았습니다. 결국 다수의 대표들은 주 의회가 상원의원을 선출하기로 합의했습니다. 그리고 헌법에도 그 내용이 명시됐습니다. 그후 백년 이상 이 법은 유지됐습니다. 1919년 미국 여러주는 제 17차 헌법 수정조항을 승인했습니다. 상원 의원도 국민이 직접 선출하게 된 것은 그때부터입니다. 이제 마지막으로 제헌 회의는 상원과 하원에서 각주가 몇개의 의석을 배분받느냐 하는 문제를 논의해야 했습니다. 큰주들은 인구에 비례해 대표수를 정해야 한다고 주장했습니다. 반대로 작은 주들은 각주마다 똑같은수의 대표를 보내야 된다고 주장했습니다. 회의가 시작된 후로 대표들은 여러 차례 투표를 실시했습니다. 양측은 단호한 입장을 고수했습니다. 그러면서도 매일 끝도 없이 표결만 계속할수는 없다는 것을 일고 있었습니다. 7월 5일, 그랜드 커미티(대 타협 위원회)는 로져 셔먼의 제안을 바탕으로 두가지 타협안을 내놓았습니다. 이 타협안은 큰주와 작은 주의 주장을 모두 조금씩 수용한 것이었습니다. 즉 하원 의석은 인구 비례로 의석수를 정하고 상원은 각주가 똑같은 의석을 갖는다는 계획이었습니다. 그랜드 커미티는 제헌회의가 두가지 안을 모두 승인하던가 모두 거부하던가 둘중 하나를 택해야 된다고 제시했습니다. 7월 16일, 제헌회의는 마지막 표결을 실시했습니다. 제헌회의는 대 타협안을 받아들였습니다.