「RDBMSの基礎理論」「RDBMSの実際の作り方」みたいな本を探しています。
http://www.amazon.co.jp/RDBMS%E8%A7%A3%E5%89%96%E5%AD%A6-%E3%82%...
RDBMS解剖学 よくわかるリレーショナルデータベースの仕組み
RDBMS解剖学 よくわかるリレーショナルデータベースの仕組み (DB Magazine SELECTION)
いかがでしょう。
たぶん、インデックスファイル(ISAM)関連の本をSELECTすればよいと思います。
インデックスファイルにSQL文の解析を実装したものが、SQLliteとかになります。
おおお、ずばりな回答有難う御座います。