迎接新闻网 迎接新闻网

首页 > 旅游 > AI新规则(三):“算法推荐”的烂摊子还得人来收拾 > 正文

AI新规则(三):“算法推荐”的烂摊子还得人来收拾

2019-11-29 11:58:51

36氪获悉,近日,哈啰出行发布的《十一黄金周出行预测报告》显示,十一黄金周两轮出行日均骑行量预计较平日提升20%以上,总骑行距离或超3亿公里,累计减碳量预计约2.7万吨。此外,报告称,预计十一小长假期

神一局是一个36氪以下的编辑团队。它专注于科学技术、商业、工作场所、生活等领域。重点介绍国外的新技术、新观点和新趋势。

编者按:人工智能诞生已经60多年了。美国一些最大的科技公司(亚马逊、微软、谷歌、脸书等)。)刚刚开始挖掘人工智能的潜力,试图弄清楚人工智能将如何改变我们的未来。本文是fast公司编写的《人工智能新规则》系列文章的第三部分。介绍了由于推荐算法的缺陷,手工编辑正在卷土重来。最初的作者是杰瑞德纽曼,标题是:人类的理性如何回来清理人工智能的混乱。

人工智能的新规则(1):亚马逊的人工智能向坏用户群宣战

人工智能新规则(2):在这个容易分心的时代,微软希望人工智能能成为你的同事

上个月,hbo推出了一个方便的网站来帮助决定观看哪个原创节目。然而,该公司没有使用计算机算法对其庞大的目录进行分类,而是雇人制作推荐视频来宣传该看哪个系列。

这个名为“人类推荐”的网站与其说是产品策略,不如说是营销噱头——HBO不打算推出手机或电视设备的应用版本,也拒绝透露人们将在即将推出的hbo max服务中扮演什么角色。然而,这个网站的存在本身就是对我们当前技术状况的陈述。我们现在已经意识到推荐算法不像科技公司曾经宣称的那样可靠。将内容管理留给他人仍然很有价值。在hbo网站推出几周后,网飞开始测试自己应用程序中的人员来规划内容,这绝非偶然。

Hbo和网飞不是唯一重新发现人性的公司。这里还有一些其他的例子:

苹果公司在2017年为苹果新闻应用聘请了一名总编辑,现在又雇佣了大约十几名记者来决定哪些报道值得关注。

2017年,苹果还围绕手动编辑选项重新设计了ios应用商店,在主屏幕上有专题文章和推荐列表。

2018年,为了应对youtube儿童必须更安全的压力,youtube推出了“收藏”,其中包括由youtube和pbs等值得信赖的合作伙伴手动选择的视频。

roku最近在其Roku频道应用程序中增加了一个儿童部分,其中包含来自内部编辑团队的建议。

上个月,facebook再次开始雇佣记者,这次是为该应用即将推出的新栏目“新闻标签”选择热门新闻。

同样,谷歌最近重新雇佣了谷歌新闻的发明者克里希纳·巴拉特。可以说,算法内容规划的时代始于2002年谷歌新闻首次推出之时。巴拉特批评谷歌在他不在谷歌期间没有尽到审查标题来源的职责。

即使有了算法建议,技术公司仍然需要依靠人们来训练他们的机器学习模型,审计和管理可疑的内容(有时版主会为此付出巨大的个人代价)。我们现在看到的是,人们更加努力地促进内容规划。然而,在算法本身成为更好的趋势领导者之前,还不清楚相关公司是否将这一努力视为永久性投资或权宜之计。

科技公司热衷于手工规划的想法由来已久,尤其是苹果音乐在2015年推出时。时任苹果音乐总监的吉米·伊万尼(Jimmy iovine)表示,仅靠算法无法在合适的时间选择合适的歌曲这一“情感任务”,因此公司邀请音乐行业的DJs和名人来经营beats 1电台,并雇人创建播放列表。与此同时,苹果也开始为其快速增长的新闻业务雇佣编辑。twitter还在准备一个名为“闪电计划”的手动新闻规划功能,最终成为twitter时刻。

然而,尽管这一趋势在四年前蔓延开来,但由于科技公司产品的负面影响,它们面临着强大的阻力,这一趋势变得越来越紧迫。Facebook和谷歌都承认,他们的算法推荐在传播虚假信息和向年轻观众展示不适当内容方面发挥了不光彩的作用。至于neiflix,尽管该服务带来的社会灾难不如前两者糟糕,但网飞的批评者开始怀疑该服务的钢铁算法是否没有向新观众推荐好节目。

引入人显然是弥补算法缺陷的方法之一。例如,根据该信息,facebook即将推出的“新闻标签”功能的手动编辑器已被指示优先考虑已发布来源的报告,以避免发布会导致读者两极分化的文章。算法可能很难做出这样的推断,因为算法并不真正理解原始数据的含义。

让-路易·加塞说:“要让机器学习(或者你所说的这些算法)理解一个句子的意思,还有很长的路要走。”他曾是苹果公司的高管,现在是一名风险资本家,他呼吁在科技产品中引入更多的人力规划。

苹果应用商店的推荐已经被编辑,这是算法能力不足的另一个例子。尽管推荐引擎可以根据您过去的行为推荐应用程序,但它不能解释使用特定应用程序的感觉,也不能给出为什么一个应用程序比另一个好的意见。手动编辑后,苹果开始在主屏幕、分类页面甚至搜索结果页面上提供推荐,并说明为什么推荐的应用值得你花时间。

迈克尔·巴斯卡尔是《CU RATION:超越世界中的选择力量》一书的作者,他说这种讲故事的算法很少有机会跟进。

巴斯卡说:“我认为有机器驱动的东西,因为有太多的信息和媒体。但在那之后,人们更喜欢人。”

我们现在看到的大多数手动规划的问题是,它们通常要么是要么是定位。facebook的“新闻标签”部分之一可能是记者选择的热门新闻,但其他部分由算法运行。app store有很多不错的编辑选项,但是如果你想看看那些无法访问的地方,比如降价编辑器,你必须依靠自己。技术公司使用推荐算法的原因是,推荐算法可以无限个性化,并且可以以非常低的成本处理大量数据。

单靠人类的努力永远达不到这一水平:即使是苹果公司也无法雇佣足够多有经验的作家来处理数百万或更多的应用程序。因此,恢复以人为本的内容规划可能只是一种权宜之计,当算法得到改进后,前者将慢慢消失。今年早些时候,youtube声称其youtube kids应用程序的收藏部分是为了帮助该公司的算法从垃圾食品中识别高质量的程序。Facebook可能也有类似的新闻标签计划,这是该公司第二次尝试由人们来计划热门新闻。(几年前,该公司被指控有自由偏见,解雇了为其“趋势新闻”侧栏选择故事的手工编辑。该程序随后由该算法运行,直到脸书在2018年将其完全关闭。)

尽管如此,人们和算法共存的内容规划甚至互助模式仍然是可以想象的。新闻应用flipboard就是一个很好的例子。它使用算法进行个性化设置,但在整个过程中仍然需要人工干预。

首先,flipboard自己的用户将充当计划者,将文章添加到他们的数字杂志中供其他用户阅读。反过来,这些计划者可以帮助flipboard的算法确定用户在搜索给定主题时应该推荐哪些故事和来源。

但是flipboard并没有就此止步。相反,它雇佣了一组手工编辑来微调每个主题的输出。例如,如果有人正在寻找关于划船或汽车的文章,该算法可能会推荐许多与事故或犯罪相关的文章,因为这些文章的轰动效应往往会得到最多的点击量。然而,手动编辑可以降低这些文章的优先级,而推荐更有价值的故事。

flipboard的机器学习工程师阿尼·巴杜里(Arnie bhadury)说:“我们有一些模型试图从我们的社区规划中学习。事实上,这是我们编辑和主题规划团队的成果,他们对一切都有最终决定权。建立类似的工具可以帮助我们扩大手动规划的范围。”

另一种方法是根据其自身特点增加手动规划的投资,而不管这种方法的可伸缩性如何。例如,苹果beats 1电台不仅负责合格人员。他们邀请了著名的dj或音乐家,让他们现场演奏,然后谈论他们对这首歌的看法。作者巴斯卡尔说,手工规划的要素是不可替代的。

他说:“有一件事你永远不会从算法中得到,那就是它背后的故事。”

所有这一切让我想知道:如果苹果新闻或脸书的新闻标签不仅推荐这篇文章,而且还有标题,允许编辑公开解释他为什么选择这篇文章呢?如果网飞的收藏能得到导演或评论家的意见呢?youtube上的孩子们通过序曲或受欢迎角色的公益广告提供儿童节目选择的“最佳列表”怎么样?为什么不能有节拍2,3,4,5?

所有这些都不能代替算法提供的粒度建议,它们的制造成本也不像算法那样便宜。然而,如果它们足够有吸引力,它们也可以提供一定程度的信任、责任和人与人之间的接触,而这是从冷算法中无法获得的。在我们目前对技术的抵制下,这些可能是宝贵的资源。

译者:博西。

彩票江苏快三 河北十一选五投注 福彩快三 湖北快三