Characterizing AI Manipulation Risks in Brazilian YouTube Climate Discourse

TL;DR

研究通过心理语言学方法分析巴西YouTube气候话题,揭示生成式AI操控风险,数据集含226K视频和2.7M评论。

cs.SI 🔴 高级 2025-11-09 57 次浏览
Wenchao Dong Marcelo S. Locatelli Virgilio Almeida Meeyoung Cha
气候变化 心理语言学 生成式AI YouTube 数据集

核心发现

方法论

研究采用心理语言学框架,结合10种劝说策略和7种心智理论(ToM)类别,分析巴西YouTube气候话题。通过GPT-4.1对数据进行注释,使用BERTopic进行主题聚类,并采用Bradley-Terry模型预测评论受欢迎度。

关键结果

  • 情感和道德劝说策略显著提高用户互动,情感内容平均提升点赞率2.1%,而逻辑和统计劝说效果较低。
  • 生成式AI可轻松生成气候否认评论,实验中训练的极端否认模型能生成高相似度的误导性评论。
  • 短视频中道德劝说的效果逐年增强,尤其在2023年后,权威性劝说在短视频中也表现更强。

研究意义

该研究揭示了生成式AI在气候话题中的潜在操控风险,特别是在巴西这一全球气候政策的重要参与者中。研究提供了一个心理语言学框架和公开数据集,为未来研究数字气候传播和生成媒体的伦理风险奠定基础。

技术贡献

提出了结合心理语言学和生成式AI的分析框架,首次将劝说策略与ToM类别结合用于气候话题分析,并开发了基于GPT-4.1和BERTopic的注释和主题聚类方法。

新颖性

首次在巴西语YouTube气候话题中系统性研究心理劝说策略与生成式AI操控风险,提供了独特的心理语言学视角和公开数据集。

局限性

  • 数据集中短视频占比逐年增加,可能导致长视频的分析结果不够全面。
  • 生成式AI模型的实验未完全覆盖多语言场景,局限于巴西葡萄牙语。
  • 未深入探讨不同发布渠道对劝说策略效果的影响。

未来方向

未来可扩展至多语言和跨文化场景,研究生成式AI对不同语言和文化背景下气候话题的操控风险,并探索更复杂的心理劝说策略。

AI 总览摘要

气候变化是全球性挑战,而公众对其的认知深受社交媒体的影响。巴西作为全球气候政策的重要参与者,其YouTube平台上的气候话题传播尤为值得关注。

本研究通过心理语言学框架,分析了2019至2025年间226,775个巴西YouTube视频及2,756,165条用户评论。研究采用10种劝说策略和7种心智理论(ToM)类别,揭示了情感和道德劝说对用户互动的显著影响,同时指出生成式AI可用于生成误导性气候否认评论。

研究提供了一个公开数据集和分析框架,为未来研究生成媒体的伦理风险提供了基础。尽管存在语言和渠道局限,该研究为理解数字气候传播和AI操控风险提供了重要洞察。

深度分析

研究背景

气候变化对全球健康、粮食安全和经济稳定构成威胁。随着社交媒体成为公众获取信息的主要渠道,理解其对气候话题传播的影响至关重要。巴西作为全球气候政策的重要参与者,其YouTube平台提供了研究气候话题传播的独特视角。

核心问题

核心问题是如何量化和理解心理劝说策略对气候话题传播的影响,以及生成式AI在这一领域的潜在操控风险。这一问题复杂且重要,涉及心理学、语言学和计算机科学的交叉领域。

核心创新

研究创新点包括:1) 首次将心理劝说策略与ToM类别结合用于气候话题分析;2) 提出了基于GPT-4.1的注释框架;3) 通过Bradley-Terry模型量化评论受欢迎度。

方法详解

  • �� 数据收集:使用YouTube Data API v3获取226,775个视频及2,756,165条评论。
  • �� 数据注释:采用GPT-4.1对10种劝说策略和7种ToM类别进行注释。
  • �� 主题聚类:使用BERTopic对视频内容进行主题分析。
  • �� 模型分析:通过Bradley-Terry模型预测评论受欢迎度。

实验设计

实验设计包括:1) 基于劝说策略和ToM类别的用户互动分析;2) 使用生成式AI生成气候否认评论;3) 对不同视频长度和发布渠道的劝说效果进行对比分析。

结果分析

实验表明,情感和道德劝说显著提高用户互动,情感内容点赞率平均提升2.1%。短视频中道德劝说的效果逐年增强,而逻辑和统计劝说效果较低。

应用场景

研究结果可用于设计更有效的气候传播策略,同时为检测和防范生成式AI操控提供技术支持。

局限与展望

局限包括数据集中短视频占比逐年增加,生成式AI实验局限于巴西葡萄牙语,以及未深入探讨不同发布渠道的影响。

通俗解读 非专业人士也能看懂

可以将研究比作一个“心理实验室”,科学家们分析了巴西YouTube上的气候话题,就像研究人们在不同广告中的反应一样。他们发现,情感化的内容更能吸引观众,而逻辑性强的内容反而不太受欢迎。更有趣的是,他们还用AI生成了一些假评论,测试这些评论是否会影响观众的看法。结果显示,AI生成的评论确实能有效地操控舆论,但这也带来了潜在的伦理问题。

简单解释 像给14岁少年讲一样

想象你在YouTube上看气候变化的视频,有些视频让你感动得想点赞,有些却让你觉得无聊。科学家们研究了为什么会这样,他们发现情感化的视频更容易吸引人!更酷的是,他们用AI生成了一些评论,比如“全球变暖是假的”,结果发现这些评论居然能影响其他人的想法!不过,这也提醒我们要小心网上的信息,不要轻信哦!

术语表

劝说策略 (Persuasion Strategies)

指通过情感、逻辑等方式影响他人观点的技巧。

用于分析视频内容如何吸引观众。

心智理论 (Theory of Mind, ToM)

理解他人心理状态的能力,如信念、意图等。

用于分类用户评论的心理特征。

生成式AI (Generative AI)

一种生成文本或图像的人工智能技术。

用于生成气候否认评论。

BERTopic

一种无监督主题聚类算法。

用于分析视频内容的主题分布。

Bradley-Terry模型

一种用于比较对偶偏好的统计模型。

用于预测评论的受欢迎度。

开放问题 这项研究留下的未解疑问

  • 1 如何在多语言场景下扩展心理语言学框架?
  • 2 生成式AI在不同文化背景下的操控风险是否一致?

应用场景

近期应用

气候传播优化

利用研究结果设计更有效的公众教育内容。

AI操控检测

开发工具检测生成式AI生成的误导性内容。

远期愿景

全球气候传播

扩展至多语言场景,提升全球气候教育的影响力。

原文摘要

Climate change poses a global threat to public health, food security, and economic stability. Addressing it requires evidence-based policies and a nuanced understanding of how the threat is perceived by the public, particularly within visual social media, where narratives quickly evolve through voices of individuals, politicians, NGOs, and institutions. This study investigates climate-related discourse on YouTube within the Brazilian context, a geopolitically significant nation in global environmental negotiations. Through three case studies, we examine (1) which psychological content traits most effectively drive audience engagement, (2) the extent to which these traits influence content popularity, and (3) whether such insights can inform the design of persuasive synthetic campaigns--such as climate denialism--using recent generative language models. Another contribution of this work is the release of a large publicly available dataset of 226K Brazilian YouTube videos and 2.7M user comments on climate change. The dataset includes fine-grained annotations of persuasive strategies, theory-of-mind categorizations in user responses, and typologies of content creators. This resource can help support future research on digital climate communication and the ethical risk of algorithmically amplified narratives and generative media.

cs.SI