Исторический район Байрат известен раскопанными руинами круглого буддийского храма. Это один из самых ранних известных святынь такого типа в Индии с надписями Ашокан и монастырем. Здесь также были найдены реликвии Могольского, Раджпутского и Маурьянского периодов. В древние времена Байрат назывался Виратнагар и был тогда столицей матсья, под управлением царя Вирата. Легенда гласит, что Пандавы из эпической Махабхараты провели здесь год во время своего изгнания. Китайский путешественник Сюаньцзан считал Байрат прекрасным местом для буддийского паломничества. Другие раскопки показывают, что он был частью империи Маурьян и буддистским центром с 3-го века до нашей эры до 1-го века нашей эры. Это подтверждается двумя найденными здесь каменными эдиктами, которые относятся к 84 000 каменным эдиктам и надписям на столбах, которые были выгравированы во время правления Ашоки для распространения и проповеди учения Будды. Город был также важным центром во времена правления могольского императора Акбара, который построил монетную фабрику.