JavaScript の動作でわからないところがあります。どの辺りを修正すれば良いか、ご教示いただけないでしょうか？

こんな感じのことをやりたいのでしょうか？

function  setModelDeclaration(sheetName) {
    sheetName = String(sheetName);
//  RegExp.test() の戻り値は true / false
//  parentModelName = /(.*)/.test(sheetName);
    var parentModelName;
    var re = /\((.*)\)/;    // () の内側を切り出す正規表現
    var result;
    if ((result = re.exec(sheetName)) != null) {
        parentModelName = result[1];
    }

    if(parentModelName){
        modelName = sheetName.slice(0,sheetName.indexOf("("));
//                                  *****  sheet じゃなくて model ？
//      modelDeclaration = "class "+sheetName+"("+parentModelName+"):";
        modelDeclaration = "class "+modelName+"("+parentModelName+"):";
    } else {
        ...
    }
    return modelDeclaration;
}

元のコードになるべく残して、書き換えたところは、元のコードを残してあります。

ポイントは、こんなところかと。

• 正規表現で () は、特別な意味を持つ
• RegExp.test() メソッドの戻り値は true / false
• modelDeclaration を作るときのタイプミス？

メソッドの引数や戻り値の意味は、ドキュメントを引くようにした方が良いです。

• RegExp.prototype.exec() - JavaScript | MDN
• RegExp.prototype.test() - JavaScript | MDN