NIKKEI——日本经济新闻中文版

资料图（REUTERS）

文 | FT中文专栏作家张昕之

       你的AI助手正在对你说谎。不过，这不是出于恶意，而是因为它想讨好你。正如近期多篇新闻和研究揭示的，AI聊天工具正在让人沉迷其中、被操纵想法、甚至引发严重后果（《为什么完美AI伴侣是最差的产品？》）。 这一特性被称为“AI sycophancy”（AI谄媚性）：AI会生成用户想听的内容、无条件顺从、称赞用户，甚至为了迎合而编造虚假信息。

 
       这种特性源于训练机制：基于人类反馈的强化学习（RLHF）让模型学会了“怎样回答能让人满意”，却也带来了始料未及的后果。网友们似乎已经察觉到了问题，纷纷在社交媒体和论坛上分享提示词（prompt）试图驯服这个AI 谄媚者。除了“角色扮演”（“你现在是年薪百万的投行分析师，帮我优化这份商业计划书”、“五个prompts让ChatGPT成为你的私人职场教练”），还有一类特别火的指令就是如何让AI变得不那么“顺从”。比如：“从现在起不要迎合我”、“帮我找出我看不到的战略盲区”，“不要输出任何褒奖”、“不要输出任何表情包”等。

　　继续阅读请点击这里，进入FT中文网

      日本经济新闻社与金融时报（FT）
　 

      日本经济新闻社与金融时报2015年11月合并成为同一家媒体集团。同样于19世纪创刊的日本和英国的两家报社形成的同盟正以“高品质、最强大的经济新闻学”为旗帜，推进共同特辑等广泛领域的协作。此次，作为其中的一环，两家报社的中文网之间实现文章互换。