通过连续自交选择，育成系内株间花期相互授粉结子很少，甚至几乎不能结子的系统。两性花植物的雌雄花器的形态、功能完全正常，但花期自交结实不良的现象称自交不亲和性，植物界某些物种的这一特性，可有效地防止近亲交配；利用这样的系统可以生产一代杂种种子。

伊斯特（E.M.East）在20世纪20年代就研究了植物自交不亲和现象。1932年皮尔逊（O.H.Pearson）提出利用自交不亲和系生产十字花科蔬菜一代杂种种子。日本于1950年利用自交不亲和系育成结球甘蓝一代杂种“长岗一号”。1954年伊藤确立了利用自交不亲和系生产一代杂种种子的体系。世界上已利用自交不亲和性进行一代杂种种子生产的有白菜、结球甘蓝、萝卜、花椰菜、抱子甘蓝、青花菜等。中国从20世纪60年代开始自交不亲和性的研究，70年代以来，已广泛用于白菜、结球甘蓝等蔬菜一代杂种的制种。

1925年伊斯特提出的对立因子学说，认为自交不亲和性是受同一基因位点上的一系列复等位S基因所控制。凡花粉的基因型与花柱组织的基因型相同，花柱组织就会产生一种抑制物质，阻止花粉管向子房延伸。如在基因型为S₁S₂的柱头上，具有S₁或S₂基因的花粉粒，就不能正常萌发或花粉管不能到达子房。控制自交不亲和性的S复等位基因数目很多。以结球甘蓝为例，被鉴定的S基因已达50个以上。不同品种含有S基因数量是不一致的。一般未经纯化的品种包含S基因较多，而高度纯化的品种则较少。从生理方面解释不亲和性机制的主要有互补刺激说和抑制说两种假说。前者认为花粉与柱头具有不同S基因时，由于双方产生物质的互补作用，活化了花粉，刺激花粉发芽和花粉管生长。后者则认为，当双方具有相同S基因时会产生抑制花粉发芽和花粉管生长的物质。自交不亲和性的遗传控制，一般可分为配子体型和孢子体型两种（见图）。配子体型不亲和是指交配双方亲和与否取决于配子本身的基因型，即花粉中的S基因与花柱组织的S基因相同即表现不亲和，否则即亲和。属于配子体不亲和性的作物大多具二核花粉。孢子体型不亲和是指交配双方亲和与否并不取决于配子的基因型，而是决定于产生配子的孢子体基因型，当交配双方孢子体具有相同基因，即使花粉与柱头组织之间无相似的基因，也可产生不亲和性。这类作物大多具三核花粉，如白菜、结球甘蓝、萝卜等蔬菜。在孢子体型不亲和材料中一对杂合S基因之间又有独立、显隐和竞争减弱等不同关系。独立是指两个等位基因相互不干扰，各自发挥作用。显隐是指孢子体杂合基因型中只有显性基因发挥作用。显隐关系可能是完全的，也可能是不完全的，并可能在雌雄双方表现不同的显隐关系。竞争减弱是指由于两个基因相互影响而使不亲和性减弱。减弱程度因基因型组成而有不同，但一般亲和程度介于亲和与不亲和交配之间。根据上述特点，成对S基因可组成9种遗传型的交配亲和关系。S基因的作用，还会受修饰基因的干扰。另外，自交不亲和性也会因营养条件及温度等因素不同而有所变动。

自交不亲和系的选育，一般采用单株连续自交选择法。白菜、结球甘蓝、萝卜等蔬菜作物，因异花授粉，多数单株是杂合S基因型。选育自交不亲和系，就是从杂合群体中选育出具有较强自交不亲和性的纯合株系。在这些作物的自然群体中，自交不亲和株出现频率较高。大白菜、结球甘蓝约为20～50%。选育自交不亲和系的具体作法是：首先在配合力强的原始材料中选择若干优良单株进行花期套袋人工自交，测定不亲和性。同时用另外的花枝套袋蕾期自交，以确保花期自交不亲和单株能保存后代。亲和或不亲和的标准以开花授粉时平均每花结子数即亲和指数表示。亲和指数=总结子数/授粉花朵数。如结球甘蓝的亲和指数小于1，白菜亲和指数小于2为自交不亲和的标准。对于初步获得的自交不亲和株，其自交后代的不亲和性和其他经济性状还会发生分离，需进一步自交分离选择。获得自交不亲和材料后，还要测定其系内异交亲和指数，测定方法有三种：①轮配法。在待测自交不亲和系中随机抽样10株以上进行轮配，统计每一组合亲和指数，确定该系不亲和性。此法结果可靠，如发现个别亲和株也可及时剔除；缺点是需人工授粉，且组合多，工作量大。②混合授粉法。将全部抽样单株的花粉等量混合后分别对每一单株进行花期授粉，结实后测定亲和指数。此法工作量较小，对被测自交系不亲和性的评价较准确，但若出现个别亲和单株时则不易判别和剔除。③隔离区自然授粉法。将待测不亲和系种植在一个隔离区内，任其自然传粉，最后根据结实情况确定其不亲和性。此法用工少，但需有严格的隔离区，如发现亲和指数较高，也不能区分和剔除个别亲和单株。此外，为缩短鉴定时间，对于孢子体型不亲和材料，也可利用荧光显微技术，在授粉后24小时观察花柱内花粉管数量判断是否不亲和。

自交不亲和性有时会受环境因子干扰而发生变化，常见的是老龄花和花枝梢端花不亲和性有所下降，这种现象称伪稔性。不同自交不亲和系伪稔性的表现是不相同的。因此，选育时应注意选择不出现伪稔性或较少出现伪稔性的自交不亲和系，以保证一代杂种制种质量。用于配制一代杂种的优良自交不亲和系，除了具备稳定的自交不亲和性之外，还要有优良的经济性状和高配合力。可在自交早代进行一次比较认真的不亲和性选择，以后3～4代则以经济性状及配合力高低为主要选择的指标，到自交4～5代时再进行一次自交不亲和性的选择。此时90%以上的株系S基因已纯合，通过系内株间交配可迅速选出具有优良经济性状及高配合力的纯合自交不亲和株系。

主要分为原种繁殖和一代杂种种子生产两部份。自交不亲和系植株在开花前2～4天的蕾期，柱头上抑制花粉管生长的物质还未形成，因此，在蕾期对不亲和系植株进行自交，可获得自交种子。利用这一特性，自交不亲和系的原种，主要采用蕾期授粉法繁殖。此外，也有人研究利用其他理化方法，如利用钢丝刷授粉、电助授粉、变温处理及提高二氧化碳浓度等均可克服自交不亲和性。80年代以来，中国研究利用了食盐溶液处理柱头的简便方法。利用2～5%的盐水，在开花期每1～3天喷洒一次，即可克服或降低结球甘蓝、白菜等十字花科蔬菜的自交不亲和性，使部分不亲和系花期授粉、结实力达到可繁殖原种的水平。一代杂种种子生产主要采用单交种，将两个特殊配合力高的自交不亲和系按1∶1隔行定植，开花时任其自由授粉，即可获得杂种率高的正反杂交种。为提高杂种种子产量，也可将结实多的亲本与结实少的亲本按2∶1相间定植。由于纯合不亲和材料的杂交第一代仍是自交不亲和的，为降低原种种子用量，也可采用双交或三交的杂交方式生产一代杂种。