Закон Харди -Вайнберга действует только тогда, когда скрещивание случайно, т.е. вероятность скрещивания между двумя генотипами равна произведению их частот. В тех случаях, когда скрещивание неслучайно, имеет место ассортивное, или предпочтительное скрещивание. Особи с определенными генотипами скрещиваются чаще, чем следует ожидать на основе случайности. Ассортивное скрещивание не меняет частот генов, но изменяет частоты генотипов.

Особенно интересную форму ассортивного скрещивания представляет собой инбридинг, при котором скрещивание между родственными особями происходит чаще, чем этого можно было бы ожидать на основе случайности. Инбридинг ведет к повышению частот гомозигот и уменьшает частоту гетерозигот по сравнению с ожидаемыми при случайном скрещивании. Самым крайним случаем инбридинга является самоопыление -форма размножения, широко распространенная для некоторых групп растений.

Мерой генетических последствий инбридинга служит коэффициент инбридинга. Это вероятность того, что особь является гомозиготной и оба (одинаковых) аллеля идентичны по происхождению, т.е. унаследованы у одного и того прародителя из некоторого предшествующего поколения. Отметим, что два одинаковых аллеля могут быть наследованы от разных предков. Коэффициент инбридинга обозначим через .

Результаты инбридига в случае самоопыления анализировались еще Г. Менделем. Он исследовал потомство гетерозиготных растений (генотип Aa) после n поколений самоопыления. В первом поколении частоты гомозиготных растений: Ясно, что гомозиготные растения идентичны по происхождению. Гетерозиготные растения не идентичны по происхождению и их частота Здесь и ниже нижний индекс -номер поколения. Коэффициент инбридинга -частота гомозиготных растений, т.е. .

Во втором поколении потомки гомозиготных растений также гомозиготны и идентичны по происхождению. Частоты гомозиготных растений увеличиваются дополнительно за счет потомков гетерозиготных растений:

Частота гетерозиготных растений во втором поколении: Коэффициент инбридинга .

Для произвольного n -ого поколения при самоопылении растений частота гетерозиготных растений

Если учесть, что и то в n -ом поколении частоты гомозиготных растений суть

Коэффициент инбридинга соответственно

Он монотонно возрастает с ростом номера поколения Для самоопыляющихся растений с ростом номера поколения, снижается доля гетерозиготных и растут частоты гомозиготных растений. В каждом поколении коэффициент инбридинга в потомстве гетерозиготных растений один и тот же и равен . В пределе гетерозиготные растения вообще исчезают. Этот результат и был получен Г.Менделем.

Определим значение коэффициента инбридинга в потомстве сибсов, т.е, особей имеющих общую пару родителей. Родословная потомства от скрещивания сибсов изображена на диаграмме.

Пусть A и B -не состоящие в родстве родители, из гамет которых образуются зиготы C и D. Зигота E возникает от слияния гамет от C и D, т.е. от сибсов. Поскольку A и B не состояли в родстве, что их аллели в рассматриваемом локусе не идентичны по происхождению. Эти аллели для особи A обозначим как , а для особи B - как (аллели не идентичны по происхождению, но могут быть идентичны по структуре). Нужно определить вероятность появления в потомстве сибсов гомозиготной особи. Она может принадлежать одному из четырех генотипов: или , или , или , или . Вероятность того, что родитель A передаст аллель сибсу C суть . В свою очередь, если особь C получила аллель , то она передаст ее особи Eтак же с вероятностью . В итоге особь E получит аллель от A через C с вероятностью . Вторую алелль особь E от A через Dприобретет также с вероятность . Вероятность того, что интересующая нас особь E гомозиготна и принадлежит генотипу есть . Совершенно аналогичные рассуждения позволяют определить для особи E вероятности , , принадлежать соответствующему генотипу. Получаем коэффициент инбридинга , совпадающий с вероятностью того, что особь E гомозиготна и получила оба аллеля либо от прородителя A, либо B.

Существует простой метод, так называемый анализ путей, позволяющий определить коэффициент инбридинга для любого организма с известной родословной. На диаграмме, отражающей родословную рассматриваются все замкнутые пути, включающие в себя изучаемую особь, ее родителей и их общих предков. Для каждого i -ого цикла определяется коэффициент , где -число звеньев в цикле. Коэффициент инбридинга . Поясним сказанное, вычислив коэффициент инбридинга для особи K, родословная которой изображена на диаграмме.