Из задания ниче не понял.
Вот баланс скобок:

int count = 0;
for(int i =0;i< strlen(str);i++){
if (str[i]=='(' ) count++;
if (str[i]==')' ) count--;
}

Если надо для разных скобок ((),[],{}),то case в цикле и отдельный счетчик для   каждого вида.

А если строка вида "abc(de)fg(h)"?
Твой цикл не выполнится ни разу.
-//-
if(!count) horosho;

да просто счтайте отдельно открывающие и закрывающие. если звкрывающих стало больше, то неверная расстановка...

А если: ( { [ } ] ) ?
Такой расклад по уловию не подходит, а по предложеным решениям - влет.
Думаю, лучше так:
int isStrBalanced(char * str)
  for(char *c = str; *c != 0; c++){
    if(*c == '(' || *c == '{' || *c == '[') stack.push(*c);
    else if(*c == ')' && stack.pop() != '(') return 0;
    else if(*c == '}' && stack.pop() != '{') return 0;
    else if(*c == ']' && stack.pop() != '[') return 0;
  }
  if(stack.empty)return 1;
  else return 0;
}