【多比克文学,经典语录,心灵鸡汤,励志语录,正能量句子,www.dopic.net】
当前位置: 学生讲堂 || 智能陷阱 > 正文

学生讲堂 || 智能陷阱

专题: 简友广场 心理 读书 想法
作者:一土大侠 来源:原文地址 时间:2022-06-23 16:35:33  阅读:210   网上投稿

问题并不出在人缺乏意志力上,而在于“屏幕那边有数千人在努力工作,为的就是破坏你的自律。”

学生讲堂,L同学带来一部纪录片内容与观感的分享。我折服于当下学生的知识面、理解力与评判性思维。

简单摘要如下:

《监视资本主义:智能陷阱》是由杰夫.奥洛夫斯基执导,NETFILX出品的纪录电影,于2020年上映。该片向观众展示了监视资本主义的运作机制和互联网巨头的部分盈利真相,揭示了互联网在过去、现在和未来对个体及社会已经产生和可能产生的负面影响。

豆瓣上有人说这部纪录片是“年度最佳恐怖片”,我认为此评价毫不夸张,因为监视资本主义和互联网的确已经将绝大多数人拉入了智能陷阱之中,纪录片所讲的多数事实就正发生在我们中的绝大多数人身上 --当你滑动手指,盯着屏幕时。

特里斯坦.哈里斯

2016年,特里斯坦·哈里斯——这位谷歌的内部道德设计师决定离职,此时的他已经意识到,Facebook、谷歌(YouTube、谷歌搜索)、推特这样的互联网科技公司为了商业利益,利用算法吸引人上瘾的产品设计,是不道德。这已经成为:“人类生存的一大威胁”。

他想到了对抗。实际上,特里斯坦·哈里斯任职谷歌期间,谷歌有知名的“不作恶”准则。但这一准则并没有阻挡住算法基于商业利益走向的偏路。离职两年后,特里斯坦·哈里斯拉着Facebook和Google等大公司离职或在职的技术专家,建立了一个叫“人道科技中心”(Center for Humane Technology)的组织,这个组织在2018年成立,用来——对抗硅谷互联网公司让人上瘾的设计理论。

特里斯坦·哈里斯被《大西洋月刊》称为“硅谷最接近良知的人”。 在创建新的人道技术中心之前,他是谷歌的设计伦理学家,开发了一个框架,研究技术应该如何“合乎道德”地从屏幕上引导数十亿人的思想和行动。 

在《黑镜》中“碎片”公司CEO阐述了一种逻辑:一个产品成型后,它的走势就不再是他能决定的,每一次更新和功能改进,都是因为用户喜欢、希望得到的结果,这并不一定是一个CEO想要的。

而现在,

上瘾,几乎成了所有社交App追求的东西。

2010年底,乔布斯对《纽约时报》(New York Times)的记者尼克·比尔顿(Nick Bilton)说,他的孩子从没用过iPad。“孩子们在家里能用多少技术,我们做了限制。”比尔顿发现,其他科技巨头也都设定了类似的限制举措。《连线》(Wired)杂志的前主编克里斯·安德森(Chris Anderson)对家里每一台设备都设定了严格的时间限制,“因为我们最先见证了技术的危险性。”他的5个孩子从不准在卧室里使用屏幕。Blogger、Twitter和Medium三大平台的创办人之一,埃文·威廉姆斯(Evan Williams)给两个年幼的儿子买了数百本书,却不给他们买iPad。创办了一家分析公司的莱斯利·戈尔德(Lesley Gold)给孩子们订立了一套“本周不得使用屏幕”的严厉规矩。除非孩子们需要用电脑完成功课,她才会稍微放宽要求。沃尔特·艾萨克森(Walter Isaacson)在为乔布斯传记做调查期间,曾和乔布斯一家人共进晚餐。他告诉比尔顿说:“没有谁拿出iPad或者电脑。孩子们对这些设备似乎完全没有瘾。”生产高科技产品的人,仿佛遵守着毒品交易的头号规则:自己绝不能上瘾。

作为谷歌前道德伦理设计师的特里斯坦说,当年他在谷歌做邮箱设计时,意识到一个问题,历史上从来没有过50个左右的20-35岁的加州工程设计师做出一个决定,就能影响20亿人,影响他们做出从来没有预想到的想法或决定——当用户早上醒来,谷歌邮箱就告诉他,应该这样工作。工作、文化、生活的意义,都来自一个鬼鬼祟祟的第三方操纵。而谷歌内部,没有一个人想把邮箱做得不那么致瘾。

为什么,网上很多软件都是免费使用的?

现在,互联网公司提供了大量的免费产品,FaceBook、微信、抖音、推特,大家都不为使用的社交产品付费。为这些社交App付费的那些广告商,广告商就是社交App的顾客,而用户成了被销售的商品。这就出现了一种现象:

如果你没有花钱买产品,那你就是被卖的产品。

所以FaceBook、推特这些公司的商业模式就是,怎样让你最大程度的上瘾,花更多的时间在这些App上,付出你人生的时间。

人生值多少钱呢?

哈佛商学院教授Shoshana Zuboff被采访时说,在商业上,FaceBook、推特们为了卖出更多的广告,需要给与顾客确定性,所以,商业广告卖的就是确定性,这个“确定性”就来自用户上瘾背后的“数据分析”。这就是纪录片标题所说的核心:监视资本主义。

我们现在有了交易大范围人类期货的市场,这些市场创造了万亿美元,让网络公司成为了人类历史上最富有的公司,我想让人们知道的是他们在网上做的一切,都被监控着、被追踪着、被评估着,你所做出的每一个行为=都被小心翼翼地监控着、记录着,具体到你停在哪一张图片上你看了多久。人们孤独的时候,他们知道;人们抑郁的时候, 他们知道;人们看前任爱侣的时候,他们知道;你深夜在做什么,他们知道,他们全都知道:你是内向还是外向、你的神经哪种类型、你的性格是哪种类型……他们所掌握的我们的信息超越人类历史上所有的想象,这是史无前例的,所有这些我们不经意间不断流露出的数据,都被输入到这些系统中,几乎不用人类看管,会做出越来越好的预判,预判出我们要做什么我们是怎样的人。很多人有一种误解:认为被卖掉的是我们的数据。脸书的商业兴趣肯定不是放掉这些数据,他们用这些数据做什么呢?他们做出预判我们行为的模型,拥有最优秀模型的公司就赢了。

这是每种商业都一直梦想的,就是投放一个广告有一定能够成功的保证,这就是他们的生意,他们卖的是确定性。为了在这个生意中成功,你必须要有优秀的预判能力,优秀的预判能力始于一个必要条件:你需要很多数据,很多人把它称作监视资本主义,资本主义利用大型技术公司对每个人去的每一个地方进行无限追踪获利。大型技术公司的商业模式是保证广告商能尽最大可能成功,这是现在的一种新市场。

FaceBook、UBER等公司的高管都曾在斯坦福大学上过这样一个课程:怎么用技术劝服用户?这类行为被称为:

劝服的艺术。

在斯坦福劝服技术实验室的时候,这就是我们所学到的,怎样利用我们知道的一切心理学知识,什么东西能劝服人们,把这个运用到技术中?学习怎样让技术更能劝服人们,劝服性技术可以说是极端应用的刻意设计,我们真的想去修改一个人的行为,我们想让他们这样做,我们想让他们继续用手指这样做,你往下拉、刷新,最上面就是新的内容;再下拉、再刷新,又是新的,每一次都是,在心理学上 我们称为“正积极强化,你不知道什么时候能刷到,或者你是否能刷到什么,它的原理就像是赌城的老虎机,你有意识地使用产品 还远远不够,我想深度侵入你的大脑根部,在你脑中植入一个无意识的习惯,让你在更深的层次被编程。

这一切都为了一个确定性:尽可能成功的将用户卖给广告商。Shoshana Zuboff将这个市场称为:

从未出现的、最大的人类期货市场。

过去我们交易猪肉期货、钻石期货,现在人类也成了期货。

上瘾带来的后果是,将你还没想到的部分,用推送给你,使它们成为你思想的一部分,还让你觉得这是自己所想的。

FaceBook曾做过一个“海量规模蔓延实验”,测试用FaceBook上的潜意识信号来让更多人在美国中期选举投票,

实验结果是:能。

这种影响并不会触发用户的意识,而是一种潜意识,这意味着用户根本不会察觉。

这种实验,谷歌和FaceBook每年要在用户身上做很多,用户就是实验小白鼠。

如果一个东西是工具,它就会忠诚地坐在那里,耐心等待;如果一个东西不是工具,它会在你身上有所求,引诱你、操纵你,想从你身上获利,我们已经走过了,以工具为基础的技术环境,来到了以致瘾和操纵为基础的技术环境,这是技术环境的改变,社交媒体,不是原地等在那里被使用的工具,它有自己的目标,有自己的办法去实现这些目标,利用你的心理,来对付你。

通常,在一个像FaceBook这样影响数十亿人的公司里,能明白某个程序算法工作逻辑的就几个人,相对于70多亿的人类来说,可以看成:人类失去了对算法系统的控制。

在我们生活的世界里,死了的树比活着的树更有经济价值,死了的鲸比活着的鲸更有经济价值。只要我们的经济系统还这样运转,公司不受监管,他们就会继续破坏树木,捕杀鲸鱼。在地球上挖矿,从地下抽石油。虽然我们知道这样做会破坏地球,虽然我们知道这样做会为后来几代人留下一个更不堪的世界。

而现在我们就是树,我们就是鲸,我们的注意力就是被无节制开发的矿产。

而对于广告商来说,我们花时间盯着一个屏幕所产生的经济价值,比我们去享受人生、去过自己丰富的生活所产生的价值更大的话,我们的结局会是怎样不难预料。

罗杰·麦克纳米说,这就像一个27亿人的《楚门的世界》,每个人都有自己的世界。没有人发现自己所在世界的本质真相。当然,实际上,活在“楚门的世界”里的人可能更多。在中国,类似的产品有今日头条、抖音等。

算法的每一个推送,都代表着一种商业利益。

问题并不出在人缺乏意志力上,而在于“屏幕那边有数千人在努力工作,为的就是破坏你的自律。”

    相关美文阅读: