Ранняя история мечети в Новогрудке до сих пор остается неясной. Известно, что в 1792 году последним королем Речи Посполитой Станиславом Августом Понятовским был выдан привилей на строительство мечети в Новогрудке, и через четыре года на одной из центральных улиц города был возведен мусульманский храм. Наличие привилея 1792 г., казалось бы, свидетельствует, что до того времени никакой мечети в городе не было. Однако в трактате «Рисале-и татар-и лех», написанном неизвестным автором в 1558 г. для османского двора, упоминается мечеть в Йени-Шехире (тур. ‘Новый город’), то есть в Новогрудке. Есть и другие данные, которые, вероятно, позволяют говорить о достаточно раннем появлении мусульманского прихода в этом городе. Тем не менее, привилей Станислава Августа является точкой отсчета для истории новой мечети.
Построенная в 1796 году, мечеть просуществовала почти шесть десятилетий, пока здание не пришло в упадок и затем было восстановлено. Современное здание мечети построено в 1855 г. Долгое время в храме действовала школа с религиозным уклоном – мектеб. Мечеть была закрыта после второй мировой войны и восстановила свою деятельность в 1997 г. Торжественное открытие было приурочено к памятной дате - 600-летию проживания на территории Беларуси татарского населения.
Для новогрудской мечети характерна неброская архитектура. Это характерный татарский дом с минаретом, который лишен традиционного и привычного шатра. Минарет мечети в Новогрудке венчает небольшой купол.