Гиляровский, рассказывая о Сандуновских банях, тоже не мог не упомянуть скупость Солодовникова: тот никогда не спрашивал у парильщиков, сколько что стоит, а совал всегда двугривенный — минимальную сумму. Те в ответ дразнили его храппаидолом и ругали почём свет.
Даже обычаи купеческой честности, твёрдого слова купеческого были к Солодовникову неприменимы: он без всякого зазрения совести мог отказаться от сделки, обмануть, перебежать другим дорогу…
Форменным посмешищем сделался Солодовников после одного громкого судебного разбирательства. В те годы в моде был гражданский брак, и многие купцы имели постоянных любовниц — женщин изящных, красивых, милых, опытных в любви, но никак не подходящих в законные супруги. Любовницей Солодовникова была некая госпожа Куколевская, он прожил с ней много лет и прижил нескольких детей. Потом миллионер бросил постаревшую Куколевскую, лишив её всякого содержания. Та подала на бывшего сожителя в суд, требуя денег на воспитание детей.
Солодовников повёл себя, по общему мнению, мелочно и гадко. Он представил на суд все счета, по которым платил за неё (всё сохранил!), перечень подарков, которые ей дарил, и доказывал, что она ему и так дорого стоила. Его адвокат, знаменитый Лохвицкий (отец не менее известной поэтессы), в запале заявил: «Раз г-жа Куколевская жила в незаконном сожительстве, какие же у неё доказательства, что дети от Солодовникова?» Увы, эффект был совершенно не тот, на который рассчитывал адвокат: зал обомлел, а потом взорвался хохотом. Этот перл цитировали в прессе, а в кафешантанах распевали частушки о «папаше». Эта кличка приклеилась к Солодовникову на всю жизнь.
Анекдоты, впрочем, весьма близкие к реальности, ходили и про его роскошный магазин — Солодовниковский пассаж, стоявший между универсальным магазином «Мюр и Мюрилиз» (ныне ЦУМ) и Кузнецким мостом, на том месте, где сейчас сквер. В 1941 году в пассаж попала немецкая бомба.
Влас Дорошевич:
«Построил пассаж — помещения прямо за грош сдаёт. «Мне больших денег не надо. Был бы маленький доходец». Торговцы и накинулись. Магазины устроили — великолепие. Публика стеной валит. А Гаврил Гаврилыч по пассажику разгуливает и замечает: к кому сколько публики. А как пришёл срок контрактам, он и говорит: «Ну-с, публику к месту приучили, очень вам признателен. Теперь по этому случаю вы, вместо 2 тысяч будете платить шесть. А вы вместо трёх и все десять». Попались, голубчики, в ловушку. Он их и облупливает. Стонут!»
А когда захотелось Солодовникову стать почётным гражданином и статским советником, то пришлось волей-неволей тратить деньги на благотворительность, ведь эти привилегии просто так не давались. Надо было прийти в Городскую думу и задать вопрос: какая помощь нужна городу? Спросившему рассказывали, какие больницы или учебные заведения требуются Москве сейчас, он брал на себя обязательство построить что-либо из описанного, а в качестве награды получал почётное звание. Но скрягу-Солодовникова, «папашу», здесь встретили особо, заявив, что никакие больницы Москве не требуются, всего в избытке, а нет только клиники венерических болезней. Возмутился Гаврила Гаврилович: чего это ему «стыдную» больницу строить предлагают — отказался. Прошло время, пришёл он во второй раз — и то же самое. Ив третий — опять. Понял тогда Гаврила Гаврилович, что нет у него другого выхода, и построил великолепную клинику, оборудовав роскошное здание по самому последнему слову тогдашней науки и техники. Только просил имя своё этой больнице не присваивать, — город согласился. Ныне это Клиника кожных и венерических болезней МГМУ (Первого московского государственного медицинского университета им. И. М. Сеченова) на Большой Пироговской.