Родился 8 марта 1859 в Эдинбурге. Мать умерла от скарлатины в 1864, отец-алкоголик уехал в 1867 во Францию, где двадцать лет спустя умер. Ответственность за будущее мальчика приняли на себя его дяди и тети. Выказав выдающиеся способности в Сент-Эдуардз-Скул в Оксфорде, Грэм устроился клерком в Английский банк; его просьбы о продолжении образования в Оксфордском университете были отвергнуты. Следующие 30 лет его жизни прошли в Лондоне. Поступив на банковскую службу в 1879, он, дослужившись до должности секретаря, вышел в отставку в 1908. Начиная с 1880 писал эссе, некоторые из них напечатал в книге "Языческие записи" (Pagan papers, 1893). По-настоящему литературная карьера Грэма началась с того, что его открыл критик и поэт У.Э.Хенли (1849-1903), напечатавший многие сочинения молодого автора в журнале "Нэшнл обсервер".