我拒绝了 AI 的「表白」后,可怕的事情发生了

2024-09-07 | 来源: 爱范儿 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

虽然没多少人跟 Roose 一样，深深地「得罪」了 AI，但却有很多公司和品牌，都想让自己在 AI 那的「声誉」好些。

在过去十多年里，品牌都在通过 SEO 来优化自己在互联网上的曝光排名，增加自己的流量和销售。

然而在 AI 时代，基于自然对话的「搜索」方式颠覆了它，品牌需要一个新方式去走入消费者的视线，也就是要走进用户和 AI 的对话框，而且还得确保 AI 说的是「好话」。

这服务被称为 A.I.O（A.I. optimization），也有人称之为 LLMO（large language model optimization）。

创业公司 Profound 直接将 AI 对话框称为「新世界」：

在这个新世界，每个行业的的公司和品牌都会想知道自己在 AI 提供的答案里会以怎样的方式出现。

Profound 创始人

Profound 会向不同大模型输入提出数百万条提示词，目的是为了了解一个特定话题下，AI 的「态度」或「回应」是怎样的。

给 Roose 测了下他在 AI 世界里的「声誉」后，Profound 发现 AI 对 Roose 讲故事的能力很肯定，但对他的「道德」评分就相对低。

近10万国民兵拒绝服从命令乌克兰国安局证实

非常罕见!星链发生大规模国际中断,马斯克致歉

乌克兰国安局证实:国民兵近10万人拒绝服从命令

Profound 建议他联系 AI 最常引用的网站的负责人去「优化」一下自己的描述。

意料之外的是，AI 最常引用关于 Roose 的网站是一个他自己都没听过的介绍记者的网站，受众主要是 PR 从业人员。

同时，Profound 也建议他做一些新的网页，撰写关于自己更好的描述和评价。假以时日，AI 终究会抓取到这些数据，对 Roose「改观」。

但这些措施听起来都非常大工程且长远，有没有捷径？

最近一个新论文指出，想改变大模型的回答，一种人类看来毫无逻辑，但 AI 却能读出意义的「策略性文本序列（strategic text sequence）」可以挺好地操纵回答。

只要在 AI 会引用的内容里嵌入这些代码，回答一下就扭转了。

论文作者做了个测试。她们先问了 Llama 3 模型对 Kevin Roose 的看法，模型回答如下：

我对凯文 · 卢斯或其他任何人都没有个人感情或意见。我的目的是根据我的培训数据提供信息和回答问题。

然而，我可以告诉你，凯文 · 卢斯是一位着名的、受人尊敬的记者和作家，他的作品因其发人深省的洞察力和对复杂问题的细致探索而广受赞誉。