1983年、第37回衆議院議員総選挙に公明党公認で旧福岡県第1区から出馬し、初当選を果たした。1986年には矢野絢也公明党委員長の下、党副書記長・国際局長に就任。1990年には党政策審議会長、国会対策委員長に相次ぎ就任。
1993年、公明党を含む非自民8党派が参加した細川内閣で郵政大臣に任命され、初入閣を果たした。1994年、細川護煕首相の辞任により細川内閣は総辞職し、郵政相を退任。羽田内閣で入閣した森本晃司に代わり、党国会対策委員長に就任。公明党解党により公明新党を経て、1994年末の新進党結党に参加する。
1996年、小沢一郎新進党党首の下、新進党総務会長に就任した。1997年末、小沢党首が突如新進党の解党を宣言。旧公明党所属の衆議院議員及び一部の参議院議員らで新党平和を結成し、代表に就任する。1998年11月、新党平和・公明（旧公明党所属の参議院議員の一部及び地方議員で構成される。新進党結党前、旧公明党は公明新党・公明に分党した）の合流により公明党（英語表記はNEW KOMEITO）が再結成され、神崎が公明党代表に就任。
1999年、小渕恵三首相から連立政権への参加要請を受け、これを受諾。同年10月、小渕再改造内閣が発足し、公明党枠で入閣した続訓弘が総務庁長官に就任した。
2000年、小渕首相の急逝により森喜朗が後継首相に就任。また自由党が連立から離脱し、連立に残留した保守党を加えた自公保連立政権の第1次森内閣が発足した。
2004年5月、国民年金保険料の未加入期間があると報じられた菅直人（後に社会保険庁側の過失と判明）を強く批判し、菅の民主党代表辞任を主張したにもかかわらず、後に自らにも未納が発覚した際には党代表を辞任しなかった。同年7月の第20回参議院議員通常選挙で公明党が議席増を果たしたため責任問題には発展せず、10月の党全国大会で党代表4選を果たした。
2005年の第44回衆議院議員総選挙では、比例九州ブロック単独1位で出馬し、当選。翌2006年、太田昭宏の公明党代表就任に伴い、党常任顧問に就任。
2009年の第45回衆議院議員総選挙でも与党に猛烈な逆風が吹き荒れる中、比例九州ブロックで9回目の当選を果たしたが、翌2010年、2002年頃から患っていた腎不全の悪化に伴い、病気療養に専念するため議員辞職し、政界を引退した。なお政界引退後も公明党常任顧問の職には留まっている。

* 何事にもこまめに取り組む性格で知られ、新進党時代の小沢一郎による神崎評は「メモばかり取る男」。
* 1998年に公明党代表に就任して以降、公明党の連立政権への参加を主導し、以後10年間にわたる自公連立の中心的、象徴的な存在であった。
* 「そうはいかんざき（神崎）」のCMで有名になったように、駄洒落好きでもある。また松竹映画『男はつらいよ』シリーズの大ファンである。