В 1964 году еще один британский генетик, Уильям Гамильтон, выразил концепцию Холдейна в виде формулы, которая впоследствии стала известна как правило Гамильтона. Согласно этому правилу ген, кодирующий альтруизм – такой, как у самоотверженного брата, будет множиться, если компенсация в виде числа потомков для получателя помощи превзойдет ценность потомков для альтруиста. Однако такая польза для альтруиста будет проявляться лишь при условии, что благодетель и реципиент находятся в близком родстве. Степень родства определяется общей долей генов альтруиста и получателя помощи, обусловленной их общим происхождением: между родными братьями генетическое совпадение составляет половину, между двоюродными – одну восьмую и так далее. С ослаблением родства доля общего генетического материала стремительно снижается. Позже такой процесс получил название «кин-отбор». Представляется (как минимум – согласно данной аргументации), что близкое родство является биологическим источником альтруизма и взаимопомощи. Соответственно, близкое родство – важнейший фактор, стимулирующий сложную социальную эволюцию.

На первый взгляд кин-отбор убедительно объясняет происхождение сложноорганизованных сообществ. Рассмотрим группу особей, которые тем или иным образом собрались вместе, но при этом остаются неорганизованными. В качестве примера можно привести косяк рыбы, стаю птиц, небольшую популяцию бурундуков. Допустим, что члены этой группы способны различать не только свое потомство (что согласно классической теории дарвинского естественного отбора ведет к эволюции родительской заботы). Пусть эти особи также проявляют внимание к коллатеральным родичам – то есть к тем, у кого с ними есть общие предки, например, к родным или двоюродным братьям. Далее предположим, что возникают мутации, в результате которых особь начинает уделять коллатеральным родичам больше внимания, чем дальним родичам и неродственным особям. Крайним проявлением такой тенденции будет холдейновский героизм и самопожертвование ради спасения брата. В результате разовьется непотизм, который, по Дарвину, даст особи преимущество над другими членами группы. Но куда же такой механизм заведет развивающуюся популяцию? По мере распространения генов, кодирующих внимание к коллатеральным родичам, группа превратится не во множество конкурирующих особей и их потомков, а в совокупность конкурирующих расширенных семей. Чтобы достичь альтруизма, взаимопомощи и разделения труда в масштабах всей группы, иными словами – стать организованным обществом, требуется другой уровень естественного отбора. Это – групповой отбор.

В 1964 году Гамильтон развил принцип кин-отбора дальше, сформулировав понятие совокупной приспособленности. Социальное существо живет в группе и взаимодействует с другими членами группы. Особь участвует в кин-отборе вместе со всеми остальными членами группы, с которыми контактирует. Добавочный эффект, который сказывается на генах этой особи, передаваемых следующему поколению, заключается в совокупной приспособленности, которая представляет собой сумму преимуществ и ущерба с поправкой на степень родства с каждым из членов группы. С появлением теории совокупной приспособленности единицей отбора постепенно стали считать не ген, а отдельную особь.