1875年（明治8年）諸芸学修行のため文部省最初の留学生として欧米諸国へ派遣されることとなった。1879年（明治12年）8月、フランスの中央工業大学(エコール・サントラル)を卒業して工学士の学位を受領、同年にはパリ大学理学部に入学、翌年には同校を卒業して理学士の学位を受領している。
近代土木界の最高権威
古市は公平無私であり、よく学生を導いたといわれる。また、日本工学会の初代会長として、世界の中で、日本の工学技術の声価を高めることに寄与した。作家・三島由紀夫の本名、“公威（きみたけ）”は、内務官僚であった彼の祖父・平岡定太郎が恩顧を受けた古市公威の名をとって命名した。
司馬遼太郎は自著『国家・宗教・日本人』において、フランスに留学中、あまりの猛勉強ぶりに体を壊しはしないかと心配した下宿先の女主人が休むように勧めると、古市は「自分が一日休むと、日本が一日遅れます」と答えたというエピソードを井上ひさしとの対談の中で語っている。
古市の書き残した5年間の多数の講義ノートは、克明を極め正確な上に緻密で、古市文庫として東大工学部土木工学科に現存している。
