全国都道府県議会議長会は、1922年（大正11年2月）の平和博覧会〔於：東京・上野〕に集まった8府県会議長が発起人となり、同年7月、東京で開かれた道府県会議長会議の席上、「道府県会議長を恒久的な会議体に組織化するとともに、毎年1回定例的に会合し、相互に共通する問題を検討して地方自治の発展に寄与する必要がある」との議がなされ、会の設立準備が決定された。

設立のための会議

設立のための会議は、翌1923年（大正12年）3月15日・16日の両日にわたって開催された。

準備会議

3月15日、準備委員兼規則起草委員の7議長が会議を開き、諸般の準備打ち合わせを行うとともに、道府県会議長会議規則案を決定した。

創立総会

3月16日、設立総会が開かれ、道府県会議長会議規則案が全会一致で可決され、従来、随時の任意的会合に過ぎなかった道府県会議長会は組織的団体として設立され、設立時の構成は1道3府43県の議会議長であった。

役員

創立総会では、役員として幹事7名が置かれ、その後、人数の増減を経て、1949年（昭和24年）の第28回定例会で会長1名と副会長4名が置かれるとともに、幹事を21名に増員した。 現在の役員19名（会長1名、副会長8名、理事7名、監事3名）の体制になったのは、1965年（昭和40年）1月30日に開催された臨時会以後である。

事務局

1923年（大正12年）設立後、1948年（昭和23年）までの25年間の事務は、東京都（府）議会事務局職員によって執行されていた。独自の事務局は、1948年（昭和23年）6月17日に設置されたが、事務局は引き続き東京都議会事務局の中にあり、事務局長は都議会事務局長の兼務、専従職員は事務局次長と職員1名であった。

その後、事務局は充実され、現在の事務局体制が整ったのは、1960年（昭和35年）3月29日に旧都道府県会館に移転してからである。