Мечеть Шакпак-Ата, расположенная на полуострове Тюб-Караган, в 20 с лишним километрах к северо-востоку от Форта-Шевченко, считается самым древним памятником зодчества в Западном Казахстане. Форма плана мечети, а также другие архитектурные детали говорят о принадлежности сооружения к IX-X векам. Мечеть строго ориентирована по сторонам света, вырублена в известняковой скале и состоит из четырех камер, являясь, таким образом, своеобразным вариантом крестово-купольного храма, имеющим четыре колонны с капителями. Купольный свод строения имитирует устройство юрты, а в центре его вырублено круглое окно. На портальных и внутренних стенах подземной мечети имеется большое количество надписей, изображений животных и символических знаков.