在质量管理组织建设方面，如何建立有效的QA组织应该是最难的。由于缺乏经验和指导，很多企业只能摸着石头过河，先从各个部门抽调一些新人和“闲人”成立一个QA部门，按照规范要求试试再说。这样尝试的结果，往往是走了弯路，一切回到原点。还有一些企业已经成立了QA部门，QA的职责就是保证过程体系一板一眼地得到严格执行。而业务人员却认为QA只会站在业务环节之外指手画脚，像警察一般指责业务人员的不是。而QA人员对此也相当委屈，“我是照章办事啊”，得罪了人不说，还可能对自己的工作内容感到迷惘。这样的QA部门，在其它部门的眼中“可有可无”，在老板的眼中是“白白增加了管理成本”。
根据企业的实际情况，QA组织按照其归属，一般分为职能型和矩阵型两种。在职能型QA组织中，各业务职能部门可能会设立自己的QA岗位，QA独立于项目组或分部门，直接向部门主管报告，这种QA组织的优点是：因为同属于一个部门，QA人员容易深入具体工作，容易发现项目的实际问题，对问题的处理也更快捷。缺点是各职能部门相对独立，部门之间缺乏经验的交流和共享，不同部门还可能重复进行过程、方法和工具的研究。而且，企业中普遍存在“重业务，轻过程”的现象，QA的工作与业务工作相比显得无足轻重，QA人员的职业发展更容易受到忽视，很难接受应有的培训和提升。
在矩阵型QA组织中，QA直属于质量管理部，QA人员由质管部指派到各个项目组和业务部门，在管理上向QA经理报告，业务上向项目经理和部门主管报告。图2是QA与研发部门的组织关系图，QA人员直接参与项目的工作，项目经理对QA的工作绩效有建议权，但由QA部经理对QA进行直接考评，这既有利于保证QA工作的独立性和评价的客观性，也可以保证QA组织的长期利益与项目的短期利益之间的平衡。QA经理根据项目的进度计划、工作量和优先级对QA资源进行动态调配，通常一个软件QA通常可以负责5个左右的软件项目的质量保证工作，硬件QA可以负责2至3个项目的工作。
这种结构的优点比较突出。由于QA人员直接参与项目工作，非常了解过程运行的情况，更容易发现过程改进的“短板”，QA是改进过程实施的重要推动力量，QA组织甚至还可以担负起组织级质量体系的优化、过程资产库和度量数据库的建立、维护和使用的职能。而质管部成为QA人员的资源池，一方面负责为项目输送QA人员，另一方面可以关注培养QA人员，可以有效避免职能型QS组织中不同部门重复投资于质量体系、忽视QA职业发展的问题。
但也有一个问题，由于QA和项目组分别向不同的领导负责，因此相对而言，QA较难融入项目组，对于一些问题，包括一个问题是否成为问题，在QA与项目经理之间往往都难以达成共识，产生扯皮现象。对于这种情况，一般通过问题的“上报”机制来解决，即QA可以直接报告职能部门主管和质管部经理，通过上级主管协商来寻求解决方案。
那么，QA的角色和职责应该如何界定?以研发QA(包括PQA、HQA、SQA等)为例，一个合格的QA在项目中会充当三种角色：警察、老师、医生，典型的职责包括过程指导、过程评审、产品审计、过程改进、过程度量。作为警察的角色，QA以业务流程为依据，需要及时发现和报告项目的问题，有选择性地参加项目的技术评审，定期对项目的工作产品和过程进行审计和评审。作为老师的角色，QA辅助项目经理制定项目计划，包括根据质量体系中的标准过程裁剪得到项目定义的过程，帮助项目进行估算，设定质量目标等;对项目成员进行过程和规范的培训以及在过程中进行指导等。作为医生的角色，QA可以承担收集、统计、分析度量数据的工作，对项目过程进行诊断，帮助分析原因，开处方。
QA人员可以来自于企业的各个部门，既可以由专职人员担任，也可兼职。但很多企业的经验证明，选择一些新人和“闲人”组成的QA部门往往只能构成形式上的QA组织，却不能胜任企业对质量体系寄予的重任。在选择合适的QA人选时，企业应首先考虑他们的知识、技能和素质能否满足组织和岗位的要求。具体而言，可以从综合素质、项目管理经验、软件工程经验、项目业务知识，以及对过程体系的熟悉程度等方面来考察。QA人员如果没有实际参与过项目/产品的开发，没有从事过项目管理工作，或是从有些部门抽调来的工作相对比较“轻松”的人员，即便他们熟读背诵了整个过程体系，仍然很难成为企业真正需要的合格的QA。
