Для того, чтобы разобраться в Вашем вопросе необходимо знать, был ли прописан брат Вашего мужа на момент смерти матери с ней по одному адресу. Если они были зарегистрированы вместе, то он считается автоматически принявшим наследство и его дети наследуют его долю как принявшего наследство, но не оформившего наследственных прав. Если брат с матерью были зарегистрированы в разных местах, то необходимо знать истекли ли к моменту смерти установленные законом 6 месяцев для принятия наследства. Если да, то его дети не могут обратиться к нотариусу за выдачей свидетельства о праве на наследство, не обратившись в суд с заявлением об установлении факта принятия наследства (в том случае, если он его действительно принял - пользовался имуществом, нес расходы по его содержанию и т.д.).