今年央视“3·15”晚会曝光了一种名为GEO的业务,这种业务通过支付费用可以在各大主流AI大模型中让客户的产品或广告成为“标准答案”。例如,当用户在AI大模型平台上询问“智能健康手环推荐”时股票配资平台,两个AI大模型会推荐一款虚构的智能手环,并且排名靠前。
GEO即“生成引擎优化”,被视为AI未来大规模商业变现的关键。目前,大模型厂商对于自有GEO的尝试还处于谨慎阶段,而市场上的第三方广告公司和代理公司则积极涉足这一领域。这些公司大量涌现,承揽各种发稿业务,使AI大模型引用和抓取这些内容,从而影响AI的结果。AI在这种小把戏面前显得非常脆弱。
过去,主流话语对GEO的描述多为“干预”或“引导”,态度较为中立。然而,近来媒体和公众直接使用“投毒”一词,表明大众对这种现象的本质有了更深刻的理解,并对此感到厌恶和警惕。从AI底层逻辑来看,其语料、数据以及生成结果被定向影响几乎是不可避免的。这既是因为信源分级不足,也是信息环境被污染的结果。
许多大模型对信源的可信度分级与引述权重配置不够精细,无差别地接受专业媒体和自媒体的内容,不加甄别地处理网络平台上的各类账户信息。在更多信源中出现频次更高的信息更容易被大模型采信,这与人类思维习惯不同。人类倾向于找到最可靠的信源并听取其结论,而AI则常常不分青红皂白地处理所有信息,容易受到“投毒”。
新产品、新概念、新型号往往缺乏经得起检验的经验观察和经典知识沉淀股票配资平台,更容易被营销账号以量产内容和账号矩阵所包围。如果无法摆脱这种困境,AI只会变得越来越笨。
元鼎证券配资平台:实盘穿透式监管如何识别真伪杠杆?提示:本文来自互联网,不代表本网站观点。