Structure époustouflante au style architectural indo-sarrasin, le palais de Lakshmi Vilas a été construit en 1890 par le maharaja Sayajirao Gaekwad III, le souverain de Baroda (1875-1939). Le palais s'étend sur une superficie de 500 acres et abrite de nombreux trésors architecturaux. Orné de vitraux belges, d'un sol en mosaïque vénitienne et de murs aux décorations complexes en mosaïque, le majestueux Durbar Hall est peut-être le plus attrayant de tous. Il fait notamment office de lieu de réception pour des manifestations culturelles et des concerts de musique occasionnels. Une cour italienne dotée de jolies fontaines d'eau se trouve à l'extérieur du Durbar Hall. Le palais abrite également de remarquables collections d'anciennes armes et de sculptures en bronze, en marbre et en terre cuite. Les pelouses et les jardins du palais sont tout aussi incroyables. Ils ont été aménagés et gérés par William Goldring qui était également responsable des jardins botaniques royaux.

Parmi les autres attractions se trouvant dans le palais, citons le musée du maharaja Fateh Singh et le palais de Moti Baug. Le major Charles Mant aurait été l'architecte de ce magnifique palais.

Le terrain de cricket de Moti Bagh se trouve juste à côté du musée, à l'instar des bureaux de l'association de cricket Baroda. Le complexe abrite également le Navlakhi Vav, un puits à degrés datant de 1405 de notre ère. Les visiteurs ont la possibilité de faire des visites guidées ou audio du palais..