A história passa-se nos anos sessenta, setenta do século passado em Ayemenem, Kerala, no sul da Índia. Ammu vive com os filhos gémeos, Rahel e Estha de sete anos. A avó das crianças (matriarca desta família), o tio e a tia-avó vivem na mesma casa e gerem uma fábrica de conservas, numa época em que os "tocáveis" e os "não-tocáveis" não tinham os mesmos direitos.
A história começa com o regresso de Rahel a uma casa vazia, sem mobília e com um velho carro estacionado à porta. As três gerações desta família estão de facto espalhadas pelo mundo e é aquela casa o seu ponto de encontro. Dentro de casa, está ainda a sua tia-avó, Baby Kochamma. Rahel vem de visita ao irmão, Estha, e começa desde logo por referir algumas situações sobre as quais, mais tarde, iremos entender como aconteceram e a importância que tiveram no desfecho da história.
De seguida, passamos a saber que os gémeos teriam sido separados e que isso teria tido algo a ver com a morte de uma menina, prima dos gémeos, cujo velório é descrito com muito detalhe. Sophie Mol, era prima dos gémeos e tinha vindo visitar a família. De facto, a narrativa é construída através de vários saltos temporais, que nos levam do presente ao passado, de forma a que cada episódio atual é depois explicado pelos atos do passado, consoante Rahel vai percorrendo os diversos locais da sua infância. Para mim, estas idas e vindas temporais tornam a história mais confusa, sendo que alguns episódios vão sendo repetidamente descritos, umas vezes da perspetiva infantil do passado, noutras através de uma descrição mais sólida dos factos e das suas consequências. Há também a história de Vellutha, um "não-tocável" que de certa forma é aceite pela família e que vive com o pai e com um irmão paraplégico num casebre num terreno anexo à casa principal, perto do rio. O rio que terá um papel fundamental na história e que será, ao mesmo tempo, um ponto de amor e de morte.
Arundhati Roy , em "O Deus das Pequenas Coisas" mistura drama e humor, vida e morte, passado e presente, como dois opostos que se complementam e que não existem um sem o outro, tal como os dois gémeos que, mesmo separados, continuam a ser apenas "um" e não entendem o conceito de ser "outro."