民主党の誘いを受け、理化学研究所を退職して2005年（平成17年）の第44回衆議院議員総選挙に民主党公認で宮城4区へ立候補。しかし、小泉劇場による民主党への逆風や、公示直前の出馬表明による知名度不足もあり、自民党の伊藤信太郎に約35000票差で敗退。
落選後、民主党宮城県第4区総支部長に就任。故郷の加美町に戻り、家業の農業を勉強しながら政治活動を続け、次のチャンスを待った。
農業へ熱心すぎることを心配した民主党本部は候補者の差し替えまで検討したが、石山は農作業に汗を流したことで、農業に必要な政策を体で再認識し、地元への浸透にもつながった。www.kahoku.co.jp/spe/spe_sys1031/20090901_22.htm
2009年（平成21年）の第45回衆議院議員総選挙は民主党公認に加え、国民新党の推薦も得て宮城4区に再び立候補。4年間の地道な活動で知名度もアップし、政権交代を訴える民主党への追い風もあって支持を広げ、伊藤信太郎を約27000票差で破り初当選を果たした。
宮城4区は自民党の伊藤宗一郎・信太郎親子が長年議席を独占し、なおかつ相手候補の比例復活当選さえ1度も許したことがない県内屈指の保守王国だったが、石山がその牙城を崩し、政権交代を象徴する選挙区のひとつとなった。当選後、民主党宮城県総支部連合会副代表に就任。
2009年（平成21年）10月、石山の私設秘書の男が、秘書になる以前に消費者金融からキャッシュカードを騙し取り現金を引き出した詐欺と窃盗の容疑で宮城県警に逮捕された。
sankei.jp.msn.com/affairs/crime/091001/crm0910011940026-n1.htmblog.goo.ne.jp/sekiseikai_2007/e/d82a9748d51fbb376b0ffa50806d5c18
愛称は「おにぎり王子」。
菅直人政権は環太平洋戦略的経済連携協定交渉参加を目指しているが、石山は「党内でも全議員が賛成しているわけでない。党内の反対の旗頭となる」と反対を表明している。mytown.asahi.com/miyagi/news.php?k_id=04000521101300005