推荐系统如今已深度融入我们的生活，但它们在塑造用户选择的同时，也面临偏见、透明性等问题。文章探讨了推荐系统的力量与责任，强调公平性和透明性的重要性，并展望了其从选择工具到自我发现引擎的进化潜力。

“决定你命运的不是机遇，而是选择”，这句格言常被归于琴·尼德奇（Jean Nidetch），堪称亚里士多德伦理学的一种总结（网上有大量的误传，真的相信其为亚里士多德的金句）。尼德奇1963年创立综合性减肥方案和饮食计划Weight Watchers，旨在帮助人们通过健康的饮食和生活方式的改变来减轻体重。

她是今天我们所熟悉的网上“健康达人”的真正鼻祖，一位来自皇后区的家庭主妇在减肥过程中，凭借雄心壮志，找到了一个出口、一种身份和一条自我实现的路径。

选择多么重要，如果是自我作出的。但在人工智能时代，选择还真的属于我们吗？

推荐引擎革命

这是一个生活处处被推荐系统影响的时代。Spotify 的“每周发现”功能向全球音乐爱好者承诺，提供他们从未听过但一定会喜欢的个性化歌曲播放列表。Netflix 的算法不仅使“刷剧”成为可能，而且可以预测用户的观看喜好。Google地图则为用户提供最快、最安全的出行路线建议。

“一切皆为推荐”（Everything is a recommendation）是Netflix常喊的一句口号，意谓该平台上哪怕是看似简单的内容列表，也会根据用户的观看历史精心策划和加以个性化，其本质乃是针对个人口味量身定制的推荐，而不仅仅是提供一个中性的选项列表。也就是说，每个显示的标题都是算法提出的建议，认为用户可能会喜欢。

实际上，Netflix的数据科学家和设计师围绕着这一口号重新设计了公司的用户体验。这家流媒体视频先锋将其界面配置为或明或暗地建议用户接下来应该观看哪些剧集，而每次观看都要看上数个小时。追剧——以及追剧的观众——成为Netflix的新常态。当“一切皆为推荐”时，推荐就是一切。

或许我们可以把推荐系统称为亚里士多德2.0的选择架构——它们最终能启发并赋能数十亿人吗？还是说，它们决定了你我他的命运，把用户变成了听从算法指令的傀儡？如果秉持亚里士多德伦理学，我们就会相信，最终，是否接受推荐的决定权还在于我们自己。然而历史表明，人类选择的命运在很大程度上取决于他们认为自己到底是谁。

推荐引擎代表了全球范围内个性化选择、包装、呈现、体验和理解的革命。但这场革命——这些选择架构——需要更好的理解，因为它们塑造了人们的未来。

推荐引擎：力量越大，责任也越大

正如亚马逊的杰夫·贝佐斯所乐于承认的那样，精准的推荐对于商业发展至关重要。用户确实渴望知道与自己相似的人喜欢什么。这种知识非常适合用于训练越来越智能的算法；数据越多，效果越好。从TikTok到Twitter，再到Meta和LinkedIn，全球最具影响力的数字平台不断通过机器学习，为用户提供更准确的推荐和建议。

就像蒸汽机推动工业时代发展，推荐引擎是推动21世纪全球数字经济的主要动力。越来越明显的是，我们如今得到的最佳建议往往来自智能机器，而非聪明的人类。这些巧妙的机制不断将数据转化为相关、多样、新颖、甚至充满惊喜的选项。它们通过学习人们的选择、探索和对选择的忽略来不断优化。这令它们看起来像是不可阻挡且不可避免的未来。英伟达（Nvidia）首席执行官兼联合创始人黄仁勋在2021年曾表示：“推荐系统是我们这个时代最重要的人工智能系统。它是搜索、广告、在线购物、音乐、书籍、电影、用户生成内容和新闻的核心引擎。”

也是在2021年，TikTok的推荐算法被《麻省理工科技评论》（MIT Technology Review）评选为当年的“全球十大突破性技术”之一。TikTok将网红博主的视频与新人博主的视频混合放在“为你推荐”（For You）页面，根据播放量奖励优质创作内容，用这种方式将更多新人博主的视频推给广大用户。不同于其他社交媒体平台的是，每个人都有机会在TikTok平台上一夜成名。

TikTok的推荐算法通过向具有相似兴趣或属性的用户推荐视频，实现了“精准推送”的效果，大大提升了视频的播放量，从而使优质的创作内容得到快速传播。视频博主有多少粉丝、是否走红过等因素并不会作为 TikTok 推荐算法的判断依据，推荐取决于视频标题、音乐、内容标签等因素，并结合观众点赞和观看的视频、用户的内容偏好以及小众兴趣领域等数据。最终,通过经典的协同过滤（collaborative filtering）和基于内容（content-based）的推荐方法，实现个性化推荐。

TikTok的推荐算法不仅能够精准推荐用户感兴趣的视频，还能帮助用户拓展新的话题领域，满足用户对新奇性和意外性的需求。正因如此，该算法才会被评为“全球十大突破性技术”之一，这主要是因为它能够满足每个用户的特定兴趣，而不仅仅是强调追随热点的“从众效应”。

随着互联网应用水平的提高，用户对于互联网内容的需求越来越具体和精准，这使得个性化的信息服务日益受到用户的青睐。而衡量个性化推荐结果好坏的评价指标，除了人们容易想到的精准度（precision）以外，还包括多样性（diversity）、新颖性（novelty）、惊喜性（serendipity）、可解释性（explainability），以及近几年来新提出的公平性（fairness）。

简单来说，精准度表示在推荐给用户的所有内容中，真正与用户兴趣相关的内容所占的比例。精准度越高，说明推荐系统越能准确地抓住用户的兴趣点，推荐的内容越符合用户的需求。多样性衡量推荐内容是否涵盖了广泛的主题或类别，从而避免单一化或过于集中化的问题。新颖性评估推荐内容是否为用户提供了之前未接触过的、有新鲜感的内容。惊喜性考量推荐内容是否在符合用户兴趣的同时，超出用户预期，带来令人愉快的意外发现。可解释性关注推荐系统是否能提供合理的解释，让用户理解为什么会推荐这些内容，从而增加信任感和接受度。

在这里，多花点篇幅讨论公平性，它是近年来新提出的重要指标，旨在确保推荐结果对不同群体和内容创作者不存在偏见，以维护系统的公正性和包容性。从2012年起，研究者们开始发现和讨论不同推荐场景下存在的公平性问题。例如，在工作推荐场景中，与同能力水平的男性相比，女性可能会被推荐更多低薪或非技术性岗位；在电影推荐场景中，不同性别、年龄的人可能会被推荐不同质量的电影，如年轻用户可能被推荐更多流行但低质量的电影，而年长用户可能获得更多高评分但小众的电影；在图书推荐场景中，某些平台可能更倾向于推荐由主流群体作者撰写的书籍，而忽视少数族裔作者的作品。此外，还可能存在地域或文化偏差，例如，在国际电商平台上，不同地域的用户可能接收到质量或价格不同的商品推荐，某些地区用户看到的商品更昂贵或更低端；在内容消费上，用户可能更多接收到西方文化背景的内容，而非本地语言或文化的内容。特别地，社交媒体的推荐中，内容质量偏差十分明显，高互动的低质量内容（如点击诱导性标题、煽动情感的内容、谣言等）比低互动的高质量内容更容易被推荐。

2019年有研究者提出，基于热门内容的推荐会带来推荐系统中的“热点偏差”（popularity bias）。它指的是推荐系统过于偏向流行内容，而忽视了不太热门或小众内容的现象。这种偏差会导致用户频繁接收到高度流行的内容推荐，而高质量但不够受欢迎的内容则可能被埋没。比如，音乐推荐中，流行艺术家或热门歌曲更容易被推荐，而独立音乐人或小众音乐则常遭忽视。视频推荐方面，YouTube等平台倾向于推荐大V的内容，而忽视中小创作者的视频，即便后者质量很高。这种偏差对用户和内容创作者都有影响：对用户来说，它降低了多样性，使用户接收到的推荐内容趋于单一，可能错过其他符合兴趣的小众或新颖内容；长期接受相似的推荐也可能让用户感到厌倦，降低对系统的满意度。对内容创作者来说，高质量的小众创作者可能因为流行内容的垄断而失去被推荐的机会，最终产生资源分配不公，即资源和收益过度向流行创作者倾斜。

推荐系统产生不公平的原因多种多样：历史数据中存在性别、种族、社会群体等的刻板印象，算法通过学习这些数据强化了偏见；算法基于特定的用户群体偏好标签，而非个体兴趣；数据集中在某些主流市场或语言，忽视了小众地区或文化的需求；算法优先考虑点击率、点赞等互动指标，而非内容的实际质量；系统的训练数据往往来自于用户的历史行为，而这些行为通常集中在一些热门内容上，导致系统在训练过程中对流行内容产生偏好，等等。

也因此，需要在算法中加入公平性约束，避免过于依赖单一维度的优化。推荐系统要做好多样性平衡，确保推荐内容涵盖不同群体、领域和观点。还应定期检测推荐算法是否存在不公平现象，并通过调整模型或数据改进。与此同时，加大算法的透明度与可解释性，让用户了解推荐的依据，并给予反馈权。

上述情况说明，为什么在2018年学术界和产业界就提出“负责任推荐”（Responsible Recommendation, FAccTRec）的概念，并举办多届专门的国际会议，围绕推荐系统的公平性、问责性和透明性（Fairness, Accountability, and Transparency，简称FAccT）逐步形成一系列共识：消除算法对特定群体、内容或创作者的系统性偏见，确保推荐结果对不同性别、种族、年龄、地域或内容类别公平分配；提供透明的推荐逻辑，让用户了解为什么会推荐某些内容或产品；让开发者和平台运营者能够解释算法行为和决策；确保推荐系统的设计、数据使用和算法逻辑对用户和开发者透明，允许外部专家和社会公众对系统进行审查和反馈；确保系统开发者和运营者对推荐算法的决策和影响负责，制定明确的责任归属机制，例如用户投诉或问题反馈渠道；增加推荐结果的多样性，避免热点偏差或同质化现象，鼓励推荐系统覆盖更多文化、语言和小众群体内容；最后，推荐系统的优化不仅要考虑短期的商业效益，还需关注长期的社会和环境影响，例如高计算成本或能源浪费。

通过这些原则设计和优化推荐系统，“负责任推荐”旨在实现更公正、可靠和包容的用户体验和社会影响。它强调技术设计与社会伦理的结合，减少算法偏差带来的负面影响，同时增强用户信任和平台可持续发展。

从推荐引擎到自我发现引擎

从行业实践来看，许多科技公司已开始尝试在其推荐系统中融入公平性和透明性原则。像亚马逊这样的商业推荐系统提供了有关人们可能购买什么的良好建议。Netflix优化算法，以确保推荐的内容不仅来自主流高点击率作品，还包括不同地区、小众题材以及多元文化的电影和剧集，从而避免“热点偏差”。Spotify针对小众艺术家优化算法，以规避推荐系统过于倾向头部艺术家的问题。它还推出了“Fresh Finds” 等播放列表，专门推广新兴和独立音乐人。YouTube开始向用户解释推荐逻辑，并允许用户标记“不感兴趣”或阻止特定频道，从而影响未来的推荐内容。LinkedIn 调整了算法，减少性别偏见，确保相同资历的用户能够获得类似的职位推荐机会。同时，它还提供职位推荐的“原因”解释（如基于求职历史、技能或地域），让用户对推荐结果有更清晰的理解。

然而，真正的推荐革命更多地围绕着你想成为什么样的人，而不是你需求什么和想要消费什么。如果把推荐系统视为选择架构，具有挑战性的选择迫使人们重新思考他们真正想要的是什么——以及他们想做什么。

回到本文开头提出的问题：推荐系统现在在决定我们的命运吗？真正设计良好、算法调优且数据丰富的推荐系统无疑促进了更高的自我意识。人们选择忽视的推荐、建议和忠告——包括观看什么、去哪儿、关注谁——可能与他们采纳的建议一样具有启示性。

著有《推荐引擎》（recommendation engines）一书的麻省理工学院研究者迈克尔·施拉格（Michael Schrage）甚至认为，推荐引擎的真正力量超越了自我意识，而达到了自我发现的层面。人们体验到的有效推荐系统，不仅仅是量身定制的、个性化的顾问，更是通向更深自我认知的门户。它们的建议变成某种数字化的镜子，促进并激励着人们的自省和反思。我们在此毋需引用亚里士多德，而是可以上溯他老师的老师，也就是苏格拉底。这位被德尔斐神谕认定为全希腊最聪明的人早就说过：认识你自己，是所有智慧的开始。

将推荐引擎提升为自我发现引擎，需要三个基本的且相互关联的元素。第一个是显而易见的：推荐引擎可靠、简单且轻松地提供可衡量的更好选择。也就是说，用户在使用时很快意识到，他们自己不太可能轻易发现这些选择。他们也知道，朋友、同事和家人难以做到推荐某个艺术家、某段视频或某些类型的工作机会。但是，当推荐引擎的建议激发了人们的好奇心和进一步探索的欲望，比如说，想更多地理解特定艺术家，或观看某一类型的其他视频，或更深入地了解心仪的雇主时，这些推荐引擎也会帮助使用它们的公司。

推荐系统设计的架构和技术诀窍在于其数据收集、持续的算法创新和网络效应的巧妙结合。人们使用这些系统的次数越多，它们变得越有价值；而它们越有价值，人们就越多使用它们。机器学习能力加速了这一良性循环，确保推荐和建议变得越来越相关和引人注目。人们能够更好地在所推荐的选择中看到自己。也就是说，这些选项和机会最好地反映了他们接下来想做的事情。

赋能的愉悦感是促进自我发现的下一个关键元素。人们可以根据更好的选择采取行动；他们拥有能动性。他们可以播放这首歌、观看那段视频，或者比较公共交通和优步哪个更快。他们可以放纵自己的好奇心，探索各种可能。他们可以开展社交，与朋友分享推荐的行动：“你觉得这事怎么样？”这种赋能带来了互动，而互动又增强了能力，人们可以成为合作伙伴，共同做出更好的选择。

最后，更好的选择和更大的赋能带来了更敏锐的自我洞察。人们可以更多了解自己，就像推荐引擎如此了解他们一样。他们建立的音乐播放列表、追看的剧集、记下想法的图书——这些选择反映了他们是谁，以及他们想成为什么样的人。如同坚持发朋友圈仿佛写自省日记，推荐引擎也可以成为自省引擎。

假如能够扫描、汇总并分析我们接触到的所有推荐系统和数字化建议，会有哪些改变人生的洞察浮现出来？以往，人类就何为好建议提供好建议；现在，机器就何为好的推荐提供伟大的推荐。

当推荐引擎变成自我发现引擎，结果可能是，理解我们是谁，以及我们想成为什么样的人，关键取决于那些与我们一起学习、从我们身上学习并为我们学习的机器。到此，苏格拉底“认识你自己”的箴言，将扩大为“认识你的机器”。