Pavardė „Bilža“ yra lietuviška, kilusi iš žodžio bilža – tai istorinis terminas, reiškęs mažą žemės sklypą, dirvoną ar netvarkytą pievą. Ji siejama su žemės ūkiu ir kraštovaizdžiu.
Įžymiausias jos nešiotojas – Petras Bilža (1894–1947), Lietuvos karinis veikėjas, pulkininkas, aktyvus kovose už nepriklausomybę.