在两性花或雌雄同株植物中，由雌蕊发育正常、但遗传性上自身造成无花粉或花粉失去生活力的植株所构成的品系，简称不育系。

植物雄性不育性的研究可以追溯到18世纪中期。1763年，D.J.G.科勒特（K?hlreoter）最早报道在两性花植物中发现有雄性不育现象。但一直到20世纪初，才有人对植物的雄性不育性进行遗传研究，并区别了基因控制和胞质控制两种类型的雄性不育性。1908年，W.贝特森（Bateson）等经过对香豌豆雄性不育性的遗传分析，报道这种不育性是由隐性不育单基因控制的。同年，C.科林斯（Correns）报道在一些植物物种中，雌花、两性花异株是由母本细胞质控制的。最早认识到雄性不育性在作物育种上的应用价值首推1937年J.C.斯蒂芬斯（Stephens）对高粱的研究和同年H.A.琼斯（Jones）与S.L.埃姆斯韦勒（Emswel-ler）对洋葱的研究。现在，高粱、水稻、洋葱、玉米、甜菜、向日葵、珍珠粟、番茄等作物已广泛应用雄性不育系配制杂交种子供生产应用。

1958年中国科学院遗传所引进高粱3197A不育系并开展杂交高粱的选育和推广工作。全国各地相继转育一批新的不育系和优良的恢复系，配制了不少优良的杂交组合，如晋杂1号、勃杂1号、吉杂26等。全国杂交高粱推广面积从1965年的1000多公顷，到1975年已扩大到250多万公顷。1965年北京农业大学从国外引进提型苏早1号不育系和T808恢复系，以后其他单位又引进普里美皮等恢复源和其他类型的雄性不育系，从而开展了小麦杂种优势利用的研究工作，已进展到三系配套、选配强优势组合、小面积试种阶段。1964年湖南安江农校袁隆平在洞庭早籼品种中发现败育型雄性不育株，揭开了中国研究水稻雄性不育系的序幕。1973年又培育出野败三系，筛选出一些强优势组合在全国推广种植。1977年全国种植杂交水稻200多万公顷，1983年增加到670多万公顷，增产效果显著。中国水稻雄性不育系的研究和利用，已处于世界领先地位。对玉米、棉花、油菜等作物的雄性不育系研究也在进行，其中玉米C型雄性不育系已在1980年前后小面积应用于生产。

雄性不育株必须接受外来有效花粉才能受精结实。不育株的花器外表形态因植物而异：小麦雄性不育株一般表现为花药灰白、瘦小、呈箭头状且不开裂；花粉量少、多呈三角形、遇碘不染色或染色很浅，或根本无花粉；开花后开颖角度大、时间长、柱头外露、穗形蓬松。玉米雄性不育株的雄穗不发达，在雄穗主轴上着生稀疏而扁化的小穗；小花颖壳不开张，花药较短、干瘪、不开裂，其中无花粉或花粉败育；花粉粒外形呈不规则的皱缩状、直径小于外形呈圆球状的正常花粉粒。

不同植物花粉败育的表现形式不尽相同。水稻上有四种表现型：①无花粉型。如湖南C系统南广粘不育系；②典败型花粉。如野败不育系，红莲、红晓不育系，冈型朝阳1号不育系等，它们的花粉粒发育不健全、形状皱缩不规则、无内含物、无受精能力等；③圆败型花粉。野败不育系多数花粉虽表现为典败，但也有少数败育较晚、不皱缩、仍为圆形、部分染色，但却无受精能力；④三核花粉。如BT型黎明不育系的花粉粒为圆形、染色正常、有三个核、但无受精能力。

雄性不育株花粉败育时期最早发生在孢原组织——花粉母细胞期间，有的到三核期才发生。但大多数植物败育时期是在四分体期至有液泡的双核期之间，以在无液泡小孢子期败育的植物最多。一般双子叶植物败育时期比单子叶植物略早。

雄性不育花粉一般是由于胼胝质、药隔维管束和毡绒层异常等原因引起败育，尤以毡绒层细胞发育失常，使小孢子“饥饿”而败育的现象较为多见。

雄性不育系按其遗传机制可分两类：

由控制花粉正常育性的核基因发生突变而形成的不育系。假如控制花粉正常育性是一对显性基因RfRf，由于隐性突变，杂合体Rfrf自交分离出纯合基因型rfrf，受隐性纯合不育基因控制的植株便表现为雄性不育，中国昌V型小麦不育系就属于此类。但也偶尔发现有显性核不育现象，其正常可育的基因型为msms，经显性突变产生杂合基因型Msms，表现为雄性不育。当它被育性正常植株（msms）传粉结实时，其子代按1∶1比例分离出显性不育株和隐性可育株。中国发现的由显性单基因控制的太谷小麦核不育就属于此类。

隐性核不育系的不育性一般都为孢子体雄性不育系，即花粉的不育性由孢子体的基因型所决定，与配子体（花粉）本身所含的基因型无关。所以在育性杂合株中，由于显性等位基因的存在，其全部雄配子都有受精能力。这样，在自然群体中，隐性不育等位基因才有可能通过雄配子传递下去。在一对育性基因控制下，孢子体雄性不育的杂合体自交后代按3∶1比例分离出可育株和不育株。

在杂种优势利用上，隐性核不育系难以找到有效的保持系，所以不能产生大量不育系种子供制种之用。但可用杂合可育株给不育株授粉，在育性为一对基因控制条件下，其子代按1∶1比例分离出纯合不育和杂合可育株。因为这种群体内既有不育株又有部分保持能力的可育株，所以有人称之为两用系。对于用种量少、繁殖系数高的蔬菜作物如番茄等，可以直接应用两用系作母本。对于用种量大的谷类作物，曾有不少人尝试过很多办法来解决核不育系种子繁殖的困难。如玉米的核不育保持系双杂合体和大麦的平衡三级三体。但在生产上仍不能简易而有效地加以利用。至于单基因控制的显性核不育系，主要用来作为常规育种中轮回选择和回交育种的亲本。

由胞质基因与核基因互作而产生的雄性不育系，常用CMS代号表示。假如胞质内存在着不育基因，而在相应的核内又具有一对纯合隐性不育基因rfrf，这种具有rfrf基因型的植株就表现为雄性不育。若核内为纯合RfRf或杂合Rfrf的显性恢复基因所代替，胞质基因的作用受到抑制而植株表现可育。如果胞质内存在着可育基因，则不论核基因型是否可育，植株全部表现可育。可见对这类不育性起主导作用的是胞质内的基因。胞质基因可能来自突变，也可通过将栽培品种的核导入远缘的属、种、亚种以及地理远缘品种的胞质中求得。这种核置换法的要点是选择一个对栽培品种具有不育胞质而基因型为RfRf的远缘物种为母本，以基因型为rfrf的栽培品种为轮回父本，经杂交和连续回交4～6代以上，母本的核几乎全部被轮回亲本所置换，但仍保留原来远缘物种的不育细胞质，这种具有rfrf育性基因型的核置换系便是胞质不育系，而轮回亲本rfrf便成为该不育系的保持系。不育系与相应保持系除育性不同外，在农艺性状及其他特征特性上十分相似，有如孪生姐妹。

如果要将某个栽培品种转育成某类型胞质不育系，可采用回交转育法，用该类型不育系为母本，栽培品种为轮回父本，回交4～6代以上，就可转育成该栽培品种的不育系，而该栽培品种便是相应的保持系。

胞质不育系大多为孢子体雄性不育系，也发现过由配子体控制花粉育性的配子体雄性不育系，即花粉的不育性直接受雄配子（花粉）本身的基因型控制，而不取决于孢子体的基因型。例如甜菜、洋葱、玉米、水稻等作物的某些类型不育系，其育性杂合株的两种雄配子中，携带可育基因的花粉有受精功能，杂合株的自交后代全部可育。这是与孢子体雄性不育系的不同之处。如玉米S型的不育胞质使含有rf₃隐性不育基因的雄配子不育，而含有Rf₃显性恢复等位基因的小孢子发育成有功能的雄配子。在孢子体控制的玉米T型不育系的杂合株中，则含有Rf₃或rf₃的雄配子都是有功能的。

质、核互作不育系可按作物不育胞质来源分为多种类型。如水稻有野败型、滇一型、野栽型、BT型、冈型等；玉米有T型、S型（或USDA型）、C型和其他型；小麦有提型、拟斯卑尔脱型和其他型等。不同类型的不育胞质常要求不同的育性恢复系和保持系。如恢复系R₅（茹可夫斯基/3×札斯J）能有效地恢复提型不育系的育性，而与拟斯卑尔脱胞质型小麦不育系杂交，其F₁由于R₅的一整套染色体与拟斯卑尔脱胞质不亲和而完全不育。又如玉米T型和C型胞质不育系可用Tr自交系保持，但Tr却能恢复S型不育系的育性。

胞质不育系在生产利用上比较简便，只需设不育系繁殖区和制种隔离区。在水稻、高粱、玉米、甜菜等作物生产上已大量应用胞质不育系，并已获得明显的经济效益。但在利用中也发现某些不足之处，如T型胞质使玉米严重感染小斑病，美国曾因此受到很大的经济损失；提型胞质使小麦杂交当代种子瘪瘦和发芽率降低；水稻胞质不育系有穗头较短，甚至包颈，开花较迟且不集中等现象，影响制种产量；某些杂交高粱籽粒单宁含量高，影响着杂交高粱的品质。此外不育胞质的育性恢复除受主基因控制外，还受到众多修饰基因的影响，因此杂交种的育性恢复，还受到环境条件如温度、湿度、光照等的影响，使得杂交种的年度产量不够稳定。随着研究的进展，这些缺点已经或正在不断得到克服。