Костел Святого духа, находящийся в Старом городе, был построен в 1408 г. Считают, что на этом месте еще в XIII веке стояла деревянная церковь. В 1501 г. он был передан доминиканским монахам. Тогда же был построен монастырь, который в XIX веке закрыли, превратив в тюрьму для противников царского режима. Со временем здания монастыря были разрушены, в настоящее время ведутся работы по их восстановлению. Церковь сохранилась до наших дней, хотя нынешнее здание пятое, построенное на этом месте. Четыре предыдущих были в стиле готики, костел, дошедший до наших дней, имеет стиль позднего барокко. При довольно скромном внешнем виде в нем пышное внутреннее убранство в стиле рококо. Его украшают скульптуры, церковная кафедра, исповедальня в композиции с шестнадцатью алтарями с отделкой из мрамора, массивных и одновременно изящных. Внутренние стены костела украшены барочными узорами. В нем установлен орган, являющийся единственным подлинным сохранившимся в Литве органом XVIII века. Костел, принадлежащий католической польско-говорящей общине города, является действующим.
Костел Святого Духа и доминиканский монастырь на карте