什么是提示词注入？
Prompt Injection
A. 什么是提示词注入
一种利用藏在外部数据或网页中的恶意指令、使 AI 行为失常的攻击。它是 AI 智能体时代的一个关键安全隐患。
提示词注入是一种攻击：在 AI 读取的数据（如网页或文件）中植入针对 AI 的指令，使其覆盖或忽略原本的指令。它可能导致信息泄露或非预期的操作。
对于会访问外部工具和数据的 AI 智能体而言，这一风险尤为突出。诸如校验输入、最小化权限，以及把系统设计成不执行来自不可信数据的指令等对策都很重要。
相关术语
查看更多
⚠ 依据公开数据与编辑部调研的参考值，并非实际用户数的完整统计。