В 1928 г. Ананьев закончил институт во Владикавказе и окончательно перебрался в Ленинград. На рубеже 20–30-х гг., по мнению многих, именно здесь находился главный научный центр страны. Здесь активно действовали всевозможные научные и просветительские общества, в том числе научно-музыкальное. Известно, что в феврале 1928 г. Борис Ананьев прочел в нем доклад «О социальной полезности музыканта (с психофизиологической точки зрения)», в котором говорил о власти музыки над сердцами слушателей и ответственности музыканта перед ними. При этом он опирался на экспериментальные данные, сравнивая воздействие музыки с гипнозом, которому, кстати, тоже отдал дань в научных занятиях.
Некоторое время Ананьев был вынужден искать работу, ходил на ленинградскую биржу труда. В марте 1929 г. его приняли в аспирантуру Института мозга. Здесь он окончательно сформировался как ученый, получил известность, обрел единомышленников и соратников на долгие годы. Борис Герасимович работал в Институте мозга непосредственно до 1942 г., позже руководил научными исследованиями в Отделе психологии по совместительству. Ряд сотрудников института затем перешли на вновь созданную кафедру психологии Ленинградского университета, которую возглавил Ананьев.
В начале 30-х гг. психологи Института мозга начали коллективное исследование, посвященное развитию школьников. В частности, изучались технический кругозор учащихся, одаренность, формирование характера. Ананьев стал заведовать лабораторией психологии воспитания и одним из первых в СССР организовал школьную психологическую службу на базе средней школы в Выборгском районе Ленинграда. Стержневой проблемой научно-исследовательской работы его лаборатории стала проблема характера школьников.
На основе эмпирического материала, полученного в психолого-педагогических исследованиях, Ананьев опубликовал свою первую монографию «Психология педагогической оценки» (1935). Как он сам характеризовал ее,
«ведущей идеей данной монографии является воспитательное воздействие педагога посредством оценки… В наших исследованиях мы не просто „учитываем“ школу и учителя при изучении школьника, как это делается в педологии и детской психологии, но мы включаем их в изучение школьника как важнейшие факторы формирования индивидуально-психологических особенностей ребенка и подростка».
Переизданная в 1980 г., эта работа воспринимается как современная по мысли и может служить источником новых гипотез и исследований.
В 1936 г., после принятия печально известного постановления «О педологических извращениях в системе наркомпросов», был наложен запрет на любые исследования, хотя бы внешне напоминавшие педологию. Был арестован и осужден заведующий сектором психологии Института мозга профессор А. А. Таланкин. В сентябре 1937 г. Ананьев занял его пост.
В том же году он становится кандидатом педагогических наук (ученых степеней по психологии в нашей стране еще долгое время не существовало). Ученая степень была присуждена ему по совокупности научных работ, которых к тому времени уже вышло немало, причем на самые разные темы. Молодой Ананьев рассуждал над вопросами классификации наук и о методах психологии, о происхождении психики. Он пытался определить принципы научной деятельности и при этом выступал против «школьного шовинизма» — нетерпимости к инакомыслию, нигилизма по отношению к иным научным школам. Он ратовал за здоровую, принципиальную и дружественную атмосферу в науке. Этим принципам он старался следовать неукоснительно.