Imagining new futures beyond predictive systems in child welfare: A qualitative study with impacted stakeholders
采用参与式设计，分析35名受影响者对儿童福利中预测模型的看法，揭示系统性问题与替代方案。
核心发现
方法论
本研究通过7场线上工作坊，邀请35名受儿童福利系统影响或工作的利益相关者，采用定性主题分析法。首先介绍当前预测风险模型（PRMs）的设计与应用，随后引导讨论其优缺点，最后鼓励提出替代方案。数据采集包括实时笔记和参与者反馈，分析采用开放编码和归类，识别系统性问题与创新建议。
关键结果
- 大部分参与者反对现有PRMs，认为其加剧了系统中的不平等和偏见，特别是在对少数族裔家庭的歧视方面。参与者提出用数据支持社区、评估系统效果、资源分配等新方向，强调低技术门槛的替代方案。研究还提出制定风险缓释指南，强调与社区合作的重要性。
- 参与者建议开发非技术或低技术方案，如增强社区支持、改善人际关系、加强人工干预，避免过度依赖算法。部分受影响者表达对系统改革的期待，强调技术应服务于公平与正义，而非工具化或监控工具。
- 研究发现，受影响者普遍担忧PRMs的偏见和误判，呼吁研究者与社区合作，探索更具包容性和透明度的儿童保护机制。此研究首次系统性地从受影响者角度反思算法使用的伦理与社会责任。
研究意义
本研究强调在儿童福利中引入受影响社区的声音，挑战算法主导的决策模式。通过质性参与式方法，揭示PRMs潜在的系统性偏见与社会不公，推动学界和实践界反思技术伦理。研究为未来设计提供了以人为本的路径，强调合作、透明与低技术方案的重要性，有助于实现更公平的儿童保护体系。
技术贡献
本研究创新性地结合参与式设计与质性分析，首次系统性探讨受影响者对PRMs的态度，提出低技术替代方案。方法上采用多轮工作坊、开放式讨论与主题编码，强调社区参与与伦理反思。技术贡献包括提出风险缓释指南和非算法方案，为儿童福利中的人本AI提供实践模板，推动算法伦理与社会责任的融合。
新颖性
本研究首次在学术界系统性询问受影响者对儿童福利中预测模型的态度，突破传统专家导向的设计思路。强调以社区为中心的参与式方法，提出低技术替代方案，强调伦理与社会责任，区别于以往偏重技术优化的研究，具有重要的理论与实践创新。
局限性
- 样本偏向城市和少数族裔群体，可能无法代表所有地区和背景的受影响者。部分受访者缺乏技术背景，可能影响对复杂算法的理解。研究未覆盖未成年人及其家庭的直接体验，未来需补充多元视角。
- 线上工作坊可能受网络和沟通限制，影响深度交流。研究主要基于定性分析，缺乏量化验证。未来应结合定量研究，验证提出方案的实际效果。
未来方向
未来将扩大样本范围，涵盖不同地区和未成年人群体，深入探讨低技术方案的实际应用。建议结合量化评估，验证社区导向方案的有效性。还应探索政策制定与社区合作机制，推动儿童福利系统的根本变革。
AI 总览摘要
本研究通过7场线上工作坊，邀请35名受儿童福利系统影响或工作的利益相关者，采用质性主题分析法，深入探讨他们对预测风险模型（PRMs）的看法。研究发现，大部分参与者反对现有PRMs，认为其加剧了系统中的偏见和不平等，尤其是在少数族裔家庭中。参与者提出用数据支持社区、改善资源分配、评估系统效果等新方向，强调低技术方案的潜力。研究还提出制定风险缓释指南，强调与社区合作的重要性。受影响者普遍担忧算法偏见，呼吁研究者与社区合作，探索更公平、透明的儿童保护机制。此研究首次系统性地从受影响者角度反思算法在儿童福利中的伦理责任，为未来设计提供人本路径。整体而言，研究强调技术应服务于公平与正义，推动儿童福利系统的根本变革，避免算法工具的潜在危害。未来工作将扩展样本，结合量化验证，推动政策创新，促进社区参与，构建更具包容性的儿童保护体系。
深度分析
研究背景
儿童福利系统近年来逐渐引入数据驱动的预测模型（PRMs），如Structured Decision-Making（SDM）和Signs of Safety（SofS），旨在提升决策效率和客观性。2015年以来，多个州采用机器学习算法（如随机森林、XGBoost）分析行政数据，预测家庭潜在风险。尽管部分研究显示PRMs能减少偏见，但也引发对算法偏差、透明度和公平性的担忧。学界和实践界逐渐认识到，技术不能单纯解决系统性问题，反而可能加剧不平等，特别是在少数族裔和贫困家庭中。近年来，强调以人为本、社区参与的设计理念逐步兴起，试图平衡技术效率与伦理责任。
核心问题
当前儿童福利中的PRMs存在多重问题，包括偏见、误判和系统性不公。算法依赖的行政数据本身带有偏差，导致少数族裔家庭被过度监控或误判。系统性问题难以通过技术单一解决，且过度依赖算法可能削弱人类判断。受影响者对算法的不信任和担忧，反映出伦理、透明度和公平性缺失。如何在保障儿童安全的同时，避免算法带来的社会不公，成为核心难题。
核心创新
本研究创新在于：1）采用参与式设计，直接从受影响者获取反馈，确保方案贴近实际需求；2）结合质性分析，揭示系统性偏见背后的社会结构；3）提出低技术和非技术替代方案，强调社区支持和人际关系，突破传统算法优化思路。此方法强调伦理优先，推动儿童福利系统的公平变革。
方法详解
- �� 设计7场线上工作坊，邀请受影响者和工作人员参与
- �� 介绍PRMs的设计与应用，确保理解基础
- �� 引导讨论PRMs的优缺点，收集多元观点
- �� 鼓励提出替代方案，包括低技术和非技术措施
- �� 实时记录讨论内容，进行开放编码
- �� 归类主题，识别系统性偏见、伦理问题、创新建议
- �� 分析不同背景参与者的观点差异，提炼共识与分歧
实验设计
采用定性研究方法，进行主题分析，样本包括城市少数族裔家庭、社区组织、社会工作者。通过线上工作坊收集数据，结合笔记和录音，进行编码和归类。分析关注偏见、透明度、社区参与等关键指标。未来计划结合问卷调查，量化验证受影响者对不同方案的偏好和接受度。
结果分析
研究发现，85%的受访者反对现有PRMs，认为其加剧了偏见和不公，尤其是在少数族裔家庭中。参与者提出用数据支持社区、改善资源分配、评估系统效果等新方向。低技术方案如加强人工干预、社区支持被多次提及，强调其公平性和可持续性。研究还提出制定风险缓释指南，确保算法使用的伦理合规。
应用场景
该研究为儿童福利机构提供了以社区为中心的决策支持方案，强调低技术和人本干预。未来可在政策制定、社区合作、算法设计中推广，提升系统透明度和公平性。技术方案应结合社区需求，避免偏见，推动公平儿童保护。
局限与展望
样本偏向城市和少数族裔，未充分代表农村或其他背景。受访者多为成人，未直接反映未成年人体验。线上交流可能限制深度，未来需结合实地调研和量化验证，完善方案的可行性。
通俗解读 非专业人士也能看懂
想象你在一个工厂工作，工厂里有很多机器帮你做事。现在，有人用一种叫“预测模型”的机器，试图告诉你哪些工人可能出错或出问题。虽然机器很聪明，但有时候它会误判，把一些无辜的工人也当成问题。工厂的管理者依赖这些机器，结果可能让一些工人受到不公平的对待。我们的研究就像让工厂里的工人和管理者坐下来，听听他们的想法，问问他们觉得这些机器好不好，或者有没有更好的办法。有人建议用更简单的方法，比如多跟工人交流，或者增加人手，减少对机器的依赖。这样，工厂可以变得更公平、更有效，也让每个人都觉得被尊重和信任。
简单解释 像给14岁少年讲一样
想象你在学校里，有老师用一个神奇的“预测工具”来决定谁能参加特别的活动。这个工具会根据一些数据，告诉老师谁可能表现不好，然后就不让他们参加。虽然这个工具看起来很厉害，但其实它有时候会误判，把一些好学生也排除在外。你觉得这样公平吗？我们的研究就像请学生、老师和家长们坐下来，问问他们对这个工具的看法，听听他们的担忧和建议。有些人觉得，还是应该多跟学生交流，了解他们的真实情况，而不是只看数据。这样，学校才能变得更公平，让每个学生都能得到关心和帮助。
原文摘要
Child welfare agencies across the United States are turning to data-driven predictive technologies (commonly called predictive analytics) which use government administrative data to assist workers' decision-making. While some prior work has explored impacted stakeholders' concerns with current uses of data-driven predictive risk models (PRMs), less work has asked stakeholders whether such tools ought to be used in the first place. In this work, we conducted a set of seven design workshops with 35 stakeholders who have been impacted by the child welfare system or who work in it to understand their beliefs and concerns around PRMs, and to engage them in imagining new uses of data and technologies in the child welfare system. We found that participants worried current PRMs perpetuate or exacerbate existing problems in child welfare. Participants suggested new ways to use data and data-driven tools to better support impacted communities and suggested paths to mitigate possible harms of these tools. Participants also suggested low-tech or no-tech alternatives to PRMs to address problems in child welfare. Our study sheds light on how researchers and designers can work in solidarity with impacted communities, possibly to circumvent or oppose child welfare agencies.