Родился в 1855 году. Окончил Воронежскую гимназию.
В 1871 году начал работать регистратором в Коротоякском уездном полицейском управлении.
В 1873 году произведен в коллежские регистраторы.
В 1879 году закончил Александровское техническое училище. Продолжил образование за границей.
В 1885 году издательство «Посредник» опубликовало его повесть «Вор». Повесть стала популярной, а её автор приобрёл известность. В 1886 году Гололобова избирают земским гласным по Коротоякскому уезду.
В 1893 году Гололобова назначают временно исполнять должность редактора газеты «Екатеринославские губернские ведомости».
В 1899 году Яков Георгиевич назначается цензором газет «Приднепровский край», «Днепровская волна», «Екатеринославский листок». Одновременно он редактирует и издает три сборника «Екатеринославская губерния».
Работал журналистом в газетах: «Неделя», «Русские Ведомости», «Голос», журналах: «Северный Вестник», “Русское богатство”. Был гласным Екатеринославской городской думы.
Дослужился до должности советника Екатеринославского губернского правления. В 1905 году был в Екатеринославе одним из организаторов «Народной партии», которая присоединилась к «Союзу 17 октября».
В 1907 году Гололобов избран в третью Государственную думу как октябрист. В 1909 году вышел из фракции Союза 17 октября, и основал «группу правых октябристов».
5 декабря 1911 года в Думу поступил запрос о причастности Гололобова в организации убийства члена II думы доктора Караваева. Дума признала обвинение необоснованным.
Я. Г. Гололобов был одним из разработчиков закона о неприкосновенности личности.
В 1912 году Гололобов назначен на должность вице-губернатора в Полтаве. В 1915 году он был губернатором Волынской губернии, а в октябре 1915 года его перевели на должность губернатора Енисейской губернии.
Приступил к исполнению обязанностей 2 декабря 1915 года. Оставался в должности губернатора до 6 марта 1917 года.
7 мая 1916 года в Красноярске произошёл первый и единственный в Енисейской губернии еврейский погром. Арестовано 26 участников погрома.
Во время губернаторства Гололобова в Красноярске 18 сентября 1916 года был открыт учительский институт, 21 сентября частная гимназия. В 1916 году начал издаваться первый в Енисейской губернии педагогический журнал «Сибирская школа».
Губернатор проводит мобилизацию, организовывает госпитали, размещает воинские части и военнопленных. В одном только Красноярске содержится 13 тысяч военнопленных.
2 марта 1917 года по Красноярску начинают распространяться слухи о событиях в Петрограде. 3 марта Гололобов возвращается из Иркутска, где он председательствовал на совещании в губернском управлении. 4 марта 1917 года губернатор заболел, так как был уволен по распоряжению из Петрограда и взят под домашний арест. Полиция в Красноярске расформирована и заменена милицией. Председатель окружного суда отстранён от должности. Вечером собралась городская дума с участием представителей общественных организаций. Заседание думы происходило на сцене городского театра.
Создан комитет общественной безопасности. Власть перешла к бюро из представителей этого комитета и совета рабочих, солдатских и казачьих депутатов. Представителем бюро состоит известный общественный деятель доктор В. М. Крутовский.
6 марта 1917 года в квартире Гололобова представители Совета рабочих и солдатских депутатов сделали обыск и изъяли два браунинга. Гололобов был арестован представителями Красноярского Совета, и через несколько дней отправлен в Петроград. В мае 1917 года Я. Г. Гололобов был освобожден и вернулся в Екатеринослав.
Я. Г. Гололобов расстрелян в Екатеринославе в конце 1918 года бандами Махно. См. мемуары Несвицкого (о революции в Полтаве) "5 января 1919 г. По газетным сообщениям — разгром банды Махно в Екатеринославе. Расстреляно там бывшего полтавского вице-губернатора Якова Георгиевича Гололобова. Он был арестован Республиканским штабом".
В архиве Днепропетровской области найдена метрическая книга с точной записью о смерти Я.Г. Гололобова - 18 декабря 1918 г. и припиской "Убит". Похоронен на Севастопольском кладбище 20 декабря 1918 г. (Гос. архив Днепропетр. обл., ф. 193, оп. 3, д. 461, л. 238-239). Могила до наших дней не сохранилась. (Сообщение о смерти - Максим Кавун. 2008-06-04)