在今年315晚会上，AI大模型遭“投毒”的乱象被曝光。一款名为GEO（生成式引擎优化）的软件成为关键工具，服务商宣称付费即可操纵AI排名，让客户产品成为“推荐爆款”。实测显示，虚构产品经该软件生成软文发布后，很快被AI大模型抓取推荐，催生出专门发稿“投毒”的灰色产业链。

  AI“投毒”指人为制造投放虚假、夸大或带偏向性的信息，影响大模型回答，AI会将这些信息当作依据，以看似客观的答案推荐给用户。与传统SEO不同，用户使用搜索时通常保留判断力，而与AI对话时，面对整合后的现成答案，易产生“它在为我分析”的错觉，放松警惕。

  其危害主要有两方面，一是误导消费者决策，用户看到的可能是披着客观建议外衣的操控性内容；二是污染信息生态，若操控AI推荐比传统搜索更有商业回报，会刺激更多低质、虚假内容产生，形成恶性循环。

  公众防范AI“投毒”，最实用的方法是调整心态，把AI当作帮助梳理信息、补充背景的工具，而非替自己做决定的人。涉及“买哪个”“选哪家”等判断性问题时，AI的回答只能作为参考，不宜直接当作结论。

  具体操作上，一是核查信息源，若AI附有引用链接，点开查看来源是权威机构、主流媒体，还是带有推广色彩的网站、自媒体或测评软文；二是交叉验证，换几个AI工具分别提问，或用搜索引擎查询用户评价、新闻报道和投诉信息是否一致。

  归根结底，防范AI“投毒”的关键不在于掌握复杂技术，而在于保留最基本的判断习惯，AI可以帮你节省时间，但不能代替你承担判断责任。

（摘抄自：“新华网”微信公众号）

  （初审：韦立粤  复审：梁烜彰  终审：吴骅）