Édesapja Felsőbüki Nagy Sándor, Sopron vármegye főjegyzője, majd alispánja 1779 és 1799 között, valamint országgyűlési követe. Édesanyja Somogyi Erzsébet. A szülőháznál kezdte tanulmányait, később a soproni gimnáziumban, majd a pozsonyi Akadémián tanult. Később Pesten volt joghallgató, nagybátyja Nagy József királyi személynök mellett hites jegyző volt és itt szerzett ügyvédi oklevelet is. Az 1797. és 1805. évi nemesi felkelésekben kapitányi és később őrnagyi rangot viselt. Ezután a megyei közélet és gyűlési szereplés nyilvános pályájára lépett és csakhamar kitűnt szónoki tehetségével és rettenthetetlen bátorságával. Először 1805-ben jelölték országgyűlési követnek, majd 1807-ben egyhangúlag meg is választották. Nemes tűzzel emelt szót már akkor is a nép terheinek enyhítése és állapota javítása mellett; merészen ostorozta a lefelé dölyfös, felfelé szolgai, önző oligarchiát, az úrbéri visszaéléseket, a fosztogató adórendszert, a tisztviselők zsarnokságát és a megyei nepotizmust.

Beszédei többnyire rögtönzöttek voltak. Főként a magyar nyelv ügye és a jobbágyság terheinek enyhítése szolgáltak felszólalásinak témájául. A nemzetiséget az alkotmánynál is fontosabbnak tartotta.  Ezen országgyűlésen írta Idea című emlékiratát, mely a királyi propozíciók tárgyában a királyhoz intézendő felirat alakjában van tartva. Az országgyűlés befejezése után visszatért Sopron megyébe, ahol tovább is folytatta népszószólói szerepét. Hogy mennyire köztiszteletű és népszerű volt ekkor, tanúsítja Berzsenyi Dánielnek ez időtájban hozzá írt lelkes ódája. Kazinczy Ferenctől (1811. február 5.) Széphalomról üdvözlő és hódoló hangú levelet és minden oldalról magasztaló magyar és latin költeményeket kapott; tisztelői pedig megfestették arcképét. Az 1809. és 1813. évi nemesi felkelésekben szintén részt vett és eközben aranysarkantyús vitéz is lett. De a kormány utasítást adott Eszterházy herceg Sopron megyei főispánnak, hogy követté választatását minden áron meggátolja és így az 1808. és 1812. évi országgyűléseken nem vehetett részt.

1825-ben, minden ellenzés dacára, Sopron rendjei őt kiáltották ki országgyűlési követül. Leginkább az ő érdeme volt ekkor az a határozat, amely az úrbéri nemességet adó alá rendelte íratni. Védte a magyar alkotmányt és megtámadta kinövéseit. Az előleges sérelmek összeállítása nagy részben az ő hatása alatt készült. Főképpen az ő lángszavainak köszönhető, hogy a Magyar Tudományos Akadémia eme országgyűlés folytán, Széchenyi István és társainak nagylelkű ajánlata alapján létrejött. A november 23-i kerületi ülésen tartotta azt az elragadó beszédet, mely az akadémiát eredményezte. Az 1830. évi országgyűlésen ismét jelen volt, de itt már úgy látszik megdöbbenve állott meg a rendszerén messze túl menő eszmék áramlatával szemben és ettől fogva mindinkább konzervatív és mérséklő úton kezdett járni és több ízben határozottan fellépett a demokrata eszmék ellen, a kormányt támogatta. Ennek hatására sokan elfordultak tőle, Nagy Pál pedig fokozatosan a háttérbe húzódott. Az 1832-36. és 1839-40. évi országgyűléseken népszerűségét már teljesen elvesztette. Az 1840. évi országgyűlés után, melyen még egész bécsi befolyását felhasználta a politikai elítéltek megmentésére, végképp visszalépett a közpályáról és olykor csak a Sopron vármegyei gyűléseken hallatta éles bírálatát a nemtetsző állapotok felett. Az 1848-49-es mozgalmakban nem szerepelt. Az erre következő abszolút rendszer ellen azonban, a döblingi prófétával együtt, a nem kompromittált hazafi bőven szórta élcei találó nyilait. Bükön és Pozsonyban élt Pálffy gróf zárgondnokának minőségében; élete végső éveit pedig Bécsben és a Bécs melletti Inzersdorfban élte át. Meghalt 1857. március 26-án Bécsben. A Magyar Tudományos Akadémiában 1874. január 26-án Tóth Lőrinc tartott fölötte emlékbeszédet.

A büki katolikus templom parkjában nyugszik, sírhelyét a Nemzeti Sírkert részévé nyilvánították.