Hubert de Lauriac, un aventurier, a dérobé au cours d’un de ses voyages un précieux document « le Livre des Ancêtres ». Il en a vendu les pierres précieuses et les ferrures. Il revient chez lui à Arles et demande aussitôt la main d’Odette de Lavardens. Mais Odette est déjà fiancée à Jean de Santierne et M. de Lavardens éconduit Hubert. De son côté, Jean de Santierne habite Paris. Il veut rompre une liaison gênante avec Calliste une femme bohémienne qui jure de se venger. Jean de Santierne a pour ami un reporter, Rouletabille, qui lui conseille de se méfier de Calliste. Lorsqu’ils apprennent que celle-ci est partie pour Arles, ils s’y rendent aussi et trouvent M. de Lavardens, mort dans une allée de son jardin alors qu’Odette a disparu. Que s’est-il passé ?

Odette a été enlevée par Andréa, un bohémien qui aime farouchement Calliste, et qui a accepté de l’aider à se venger de Jean de Santierne en échange de ses faveurs. Andréa a bien emmené Odette dans une cabane habitée par une vieille femme de la tribu, Zina, mais il n’a pas tué M. de Lavardens. La police soupçonne Hubert qui est arrêté. Calliste vient menacer Odette et lui demande d’écrire une lettre de rupture à Jean de Santierne mais elle s’y refuse. Calliste veut frapper Odette mais Zina et Andréa s’interposent. Pendant ce temps, Rouletabille visite la maison d’Hubert et y découvre le Livre des Ancêtres qu’il fait voir à un archiviste. Celui-ci lui déclare que le Livre est écrit en caractères bohémiens. Jean est appelé à un rendez-vous mystérieux. Là, il est fait prisonnier par Calliste et Andréa. Sa vie est en danger mais Rouletabille survient à la tête d’une troupe armée et ils capturent les Bohémiens.

Calliste et Andréa sont amenés devant le juge. Ils reconnaissent avoir enlevé Odette mais refusent de dire où elle se trouve. Pendant ce temps, l’enquête sur la mort de M. de Lavardens se poursuit. Grâce à Rouletabille, on découvre que M. de Lavardens est mort d’une crise cardiaque et que sa blessure à la tempe provient d’une chute.

Rouletabille a l’idée ingénieuse de faire évader Calliste et Andréa afin qu’ils le mènent jusqu’à Odette. Mais il se fait malencontreusement démasquer alors qu’ils sont dans le train. Andréa le jette sur la voie. Rouletabille parvient à atteindre une auberge et demande à l’aubergiste si parmi les bohémiens qui sillonnent le pays, ne se trouve pas une rebouteuse

C’est Hubert qui frappe à la porte. Rouletabille lui propose une association. Ils se rendent au campement des bohémiens mais ceux-ci ont disparus. Un jeune paysan est découvert blessé. Il sait seulement que les bohémiens emmènent avec eux “une petite reine”.

La femme voilée n’est autre que La Pieuvre qui propose à Hubert une alliance. Mais Hubert refuse. Le lendemain, les trois hommes ont retrouvé la trace de la caravane qui emporte Odette. Hubert propose d’enlever la jeune fille. Demeuré seul avec Jean, Rouletabille lui dit qu’il n’y a qu’à aller attendre Hubert à Sever-Turn. Pendant ce temps, Hubert réussit à enlever Odette.

Malgré le démenti d’Odette, Rouletabille est forcé de convenir que la jeune fille porte bien sur son épaule le signe prophétique : le croissant et la croix. Zina consent à mener Odette jusqu’au cachot où est enfermé Jean. Andréa fait alors venir Calliste qui, folle de rage, fouette cruellement la pauvre Zina.

La Pieuvre conseille à Hubert de demander Odette en mariage, en échange de la vie sauve de Jean.La jeune fille accepte pour sauver celui qu’elle aime. Mais au moment où le patriarche va unir lesmains d’Odette et d’Hubert, Rouletabille apparaît et clame qu’Odette n’est pas la Reine des Bohémiens et il apporte la preuve que la jeune fille ne porte pas le signe de la reine

Rouletabille, Odette et Jean comparaissent devant le Patriarche qui les accuse d’être les voleurs du Livre des Ancêtres. Rouletabille déclare que le voleur est Hubert et qu’il peut obtenir le témoignage d’une femme.