В соответствии со статьей 1142 Гражданского кодекса РФ наследниками первой очереди по закону являются дети, супргу и родители наследодателя, а также внуки наследодателя, если их родители (то есть дети наследодателя) умерли до момента открытия наследства.

Как следует из текста вопроса наследников первой очереди у брата вашей мамы на момент его смерти не осталось, в противном случае ваша мама не привлекалась бы к наследованию.

В соответствии со статьей 1143 Гражданского кодекса РФ Если нет наследников первой очереди, наследниками второй очереди по закону являются полнородные и неполнородные братья и сестры наследодателя, его дедушка и бабушка как со стороны отца, так и со стороны матери.

Дети полнородных и неполнородных братьев и сестер наследодателя (племянники и племянницы наследодателя) наследуют по праву представления, то есть только в том случае, если их родители уже умерли. При этом племянники делят долю умершего родителя.

Таким образом, если у брата вашей мамы не было детей, то наследниками являются его родные братья и сестры, а также дети тех братьев и сестер, которые на момент его смерти умерли.

Наследство (то есть в данном случае квартира) будет разделено поровну между всеми братьями и сестрами, которые заявят свои права на наследства и не откажутся от него.

То есть, если, например, если у брата вашей мамы всего есть три сестры и брата, то квартира делится на три равные части. А если, одна из сестер или брат умерли, а у них были дети, то доля умершей делится между этими детьми.

Дети живых братьев и сестер (племянники) в разделе наследства не участвуют.

Поэтому, если ваша мама захочет вступить в наследство своего брата, то она должна будет подать соответствующее заявление нотариусу. Если она захочет отказаться от своей доли наследства в пользу кого-то из родственников, то должна будет написать заявление об отказе от прав на наследство, как предлагает ей сделать сестра.