Por que Gandalf teria medo do Balrog? Bem, é um Balrog. É uma coisa terrível. :)
Mais a sério, porém, os Balrogs eram seres aterrorizantes, mesmo para Gandalf e outros de seu nível de poder. Os Balrogs também são Maia, assim como Gandalf e o resto dos Istari são. Veja aqui do Valaquenta, o segundo livro do Silmarillion:
Pois do Maiar muitos foram atraídos por seu esplendor nos dias de sua grandeza e permaneceram nessa lealdade até suas trevas; e outros ele corrompeu posteriormente para seu serviço com mentiras e presentes traiçoeiros. Terríveis entre esses espíritos eram os Valaraukar, os flagelos de fogo que na Terra-média eram chamados de Balrogs, demônios do terror.
Não apenas os Balrogs estão na mesma escala de Gandalf, eles eram seres de terror e fogo para começar, enquanto Gandalf, com todo o seu poder, não era um guerreiro. Ele é descrito como "O mais sábio dos Maiar" e como um servo de Manwë, e de Nienna, e de Lórien, o Valar da sabedoria e julgamento e misericórdia e sonhos, e não de Tulkas ou Oromë, os Valar mais guerreiros / p>
Além disso, você deve lembrar que na cosmologia de Tolkien, mais antigo é sempre melhor. O mundo está sempre em decadência. As maravilhas dos Valar quando o mundo era novo nunca poderiam ser superadas nem mesmo pelas maiores obras dos elfos da Primeira Era. Até as Silmarils de Fëanor eram apenas um eco da luz das árvores. Da mesma forma, as mãos do Homem da Terceira Era nunca poderiam produzir obras tão boas quanto as dos Smiths de Eregion na Segunda Era, e certamente não das obras do próprio Feanor.
Portanto, tendo isso em mente, nós lembre-se de que os Balrogs eram os Capitães de Morgoth durante as guerras da Primeira Era. Foi necessário todo o poder de Ecthelion, Senhor da Fonte e um dos maiores capitães de Gondolin e dos elvendos para derrotar Gothmog, senhor dos Balrogs, e ele o levou com ele para a morte.
Então, quando Gandalf ouviu que um Balrog ainda se esconde nas profundezas de Moria, é claro que ele ficaria com medo. Um Balrog é um terror da Primeira Era. E algo que era uma ameaça na Primeira Era seria um terror imparável na Terceira.