議員の立法活動を補佐する機構は、明治憲法下の帝国議会には存在していませんでしたが、当時においても議員立法は行われていました。これらの法律案の起草は、帝国議会の衆議院・貴族院の事務局や政府の法制局等の職員が手伝っていたようです。

　日本国憲法と同時に施行された国会法（昭和２２年法律第７９号）には、「議員の法制に関する立案に資するため、各議院に法制部を置く。」という規定が置かれ、これに基づいて、我が国の議会制度史上初の議員の立法活動を補佐するための特別の機構として、法制部が誕生することとなりました。この法制部が議院法制局の前身です。法制部が設置された理由は、「今後の立法は新憲法の精神にかんがみ、国会を構成する各議院の議員の手により行われることが多いと予測される関係上、その立法を補佐するための機構を設けて、そこに法制に関する専門職を配置することが、議員の便宜に資する上に必要不可欠」である、と説明されています。

　法制部が置かれて間もなく、実際の運用状況からその機能強化の必要が話題となり、関係機関による検討の結果、日本国憲法の施行により国会が国の唯一の立法機関となった新事態に即応するには、各議院の議長の下に、それぞれの議院事務局から独立した別の機構として議院法制局を創設することが最も適切であるとの結論に達しました。そこで、国会法第１３１条を全面改正し（昭和２３年法律第８７号）、各議院に法制局を置くこととされました。同時に、議院法制局の組織を定める議院法制局法（昭和２３年法律第９２号）も制定され、両法は昭和２３年７月５日に施行されました。参議院では、同年１０月１５日に奥野健一初代法制局長が任命され、併せて職員の任命も行われました。これが、参議院法制局の正式発足です。

　発足当時の参議院法制局は３部７課制をとり、定員（法制局長を含む。）は５０名でした。その後、立案事務量の増加に伴い、順次機構の拡充整備と人員増が進められ、令和６年４月以降は６部１３課制となり、定員は法制局長を含めて７６名となっています。