Ранней осенью 1830 г. любознательный ученый (в нем угадывается сам Мериме) нанимает в Кордове проводника и едет на поиски древней Мунды, где произошло последнее победоносное испанское сражение Юлия Цезаря. Полуденный зной заставляет его искать прибежища в тенистом ущелье. Но место у ручья уже занято. Навстречу рассказчику настороженно поднимается ловкий и сильный малый с мрачным гордым взглядом и светлыми волосами. Путешественник обезоруживает его предложением разделить с ним сигару и трапезу, и дальше они продолжают путь вместе, несмотря на красноречивые знаки проводника. Они останавливаются на ночлег в отдаленной венте. Спутник кладет рядом мушкетон и засыпает сном праведника, а ученому не спится. Он выходит из дома и видит крадущегося проводника, который собирается предупредить уланский пост, что в венте остановился разбойник Хосе Наварро, за поимку которого обещаны двести дукатов. Путешественник предупреждает спутника об опасности. Теперь они связаны узами дружбы.
Ученый продолжает свои розыски в библиотеке доминиканского монастыря в Кордове. После заката солнца он обычно гуляет по берегу Гвадалкивира. Однажды вечером на набережной к нему подходит женщина, одетая как гризетка, и с пучком жасмина в волосах. Она невысока, молода, хорошо сложена, и у нее огромные раскосые глаза. Ученого поражает её странная, дикая красота и особенно взгляд, одновременно чувственный и дикий. Он угощает её сигаретами, узнает, что её зовут Кармен, что она цыганка и умеет гадать. Он просит разрешения проводить её домой и показать ему свое искусство. Но гадание прервано в самом начале — распахивается дверь, и в комнату с ругательствами врывается закутанный в плащ мужчина. Ученый узнает в нем своего друга Хосе. После яростной перепалки с Кармен на незнакомом языке Хосе выводит гостя из дома и указывает дорогу к гостинице. Ученый обнаруживает, что у него тем временем исчезли золотые часы с боем, которые так понравились Кармен. Огорченный и пристыженный ученый покидает город. Через несколько месяцев он снова оказывается в Кордове и узнает, что разбойник Хосе Наварро арестован и ждет казни в тюрьме. Любопытство исследователя местных нравов побуждает ученого посетить разбойника и выслушать его исповедь.
Хосе Аисаррабенгоа рассказывает ему, что
он баск, родился в Элисондо и принадлежит к старинному дворянскому роду. После кровавой
драки бежит из родного края, вступает в драгунский полк, служит усердно и становится
бригадиром. Но однажды, на его несчастье, его назначают в караул на севильскую табачную
фабрику. В ту пятницу он впервые видит Кармен — свою любовь, муку и погибель.
Вместе с другими девушками она идет на работу. Во рту у нее цветок акации, и идет она,
поводя бедрами, как молодая кордовская кобылица. Через два часа вызывают наряд, чтобы прекратить
кровавую ссору на фабрике. Хосе должен отвести в тюрьму зачинщицу ссоры Кармен, которая
изуродовала ножом лицо одной из работниц. По дороге она рассказывает Хосе трогательную
историю о том, что она тоже из страны басков, в Севилье совсем одна, её травят как чужую,
потому она и взялась за нож. Она лжет, как лгала всю жизнь, но Хосе верит ей и помогает
бежать. За это он разжалован и на месяц отправлен в тюрьму. Там он получает подарок
Кармен — хлебец с напильником, золотой монетой и двумя пиастрами. Но Хосе не хочет
бежать — воинская честь удерживает его. Теперь он служит простым солдатом. Однажды
он стоит на часах у дома своего полковника. Подъезжает экипаж с цыганами, приглашенными
для увеселения гостей. Среди них Кармен. Она назначает Хосе встречу, они проводят вместе
безоглядно счастливый день и ночь. При прощании Кармен говорит: «Мы квиты. Прощай…
Знаешь, сынок, мне кажется, я немножко тебя полюбила. Но […] волку с собакой
не ужиться», Тщетно пытается Хосе найти Кармен. Она появляется только тогда, когда нужно
провести контрабандистов через пролом в городской стене, который охраняет Хосе. Так,
за обещание Кармен подарить ему ночь он нарушает воинскую присягу. Затем он убивает
лейтенанта, которого приводит к себе Кармен. Он становится контрабандистом.
В четвертой и последней главе новеллы рассказчик самозабвенно делится с читателями своими наблюдениями над обычаями и языком испанских цыган. Под конец он приводит многозначительную цыганскую пословицу: «В наглухо закрытый рот мухе заказан ход».