Der Turm des Schlosses ist ein Überbleibsel des ehemaligen Wohnsitzes der Herren des Ortes. Das Schloss wurde unter Ludwig XIII. niedergebrannt und nach den Religionskriegen des 16. Jahrhunderts wieder aufgebaut.

Das Schloss befand sich sowohl in katholischer als auch in protestantischer Hand und wurde schließlich 1581 an die Familie de Villeneuve zurückgegeben. Die Familie Brunet, Marquis de Villeneuve besaß das Schloss bis zum 18. Februar 1862, als der letzte Nachkomme der Familie das Schloss an Philippe Pons de Villeneuve verkaufte.
Am 23. Juli 1913 ging es in den Besitz von Marie-Joseph Louis Pons, Graf von Villeneuve und Leutnant des 10. Dragonerregiments von Montauban, über. Danach wurde es, mit Ausnahme des Nordturms und des gegenüberliegenden Grundstücks, an die Gemeinde Villeneuve, vertreten durch den Bürgermeister Louis Peyrou, verkauft. Da das Schloss baufällig wurde, wurde es 1925 abgerissen. Später schenkte der Graf von Villeneuve den Turm (letzter Überrest des Schlosses) und das Grundstück der Gemeinde unter der Bedingung, dass er erhalten und gepflegt werden sollte. Das Wort wurde gehalten und der restaurierte Turm wird nun von der Gemeinde gepflegt.

Die Stadtmauern
Eine Mauer aus schwarzem Stein umgab das Dorf. Um 990 bestand der Ring aus zwei Mauern und wurde 1336 wieder instand gesetzt, um gegen Eindringlinge zu kämpfen. Unterirdische Gänge führten vom Burgturm in die Ebene. Es gab das Empayral-Tor im Norden und das d'Orb-Tor im Süden. Heute kann man noch einige Überreste dieser Mauer sehen.
