对话搜索引擎的排名操纵

完整译文

摘要

对话式搜索引擎通过多轮交互提供个性化回答，但其排名机制可能受到操纵。本文研究了对话场景下的排名操纵问题，设计了攻击和防御方法。

1 引言

对话式搜索与传统搜索的关键区别：

• 多轮交互：攻击者可利用上下文累积效应
• 个性化：攻击者可针对用户偏好设计内容
• 动态排名：排名随对话进程变化

2 攻击方法

2.1 上下文注入

通过对话上下文影响后续排名决策。

2.2 偏好诱导

识别用户偏好并设计相应内容。

2.3 累积效应

在多轮对话中逐步提升内容排名。

3 实验结果

对话场景下的攻击成功率高达52%，显著高于单轮场景。

4 防御建议

1. 上下文独立性验证

2. 用户偏好真实性检查

3. 多轮一致性评估

参考文献

[1] Chen, L., et al. (2024). Ranking Manipulation for Conversational Search. arXiv:2406.03589.