网易首页 > 网易河北 > 正文

面对大数据杀熟等乱象 我们需要什么样的“算法”

0
分享至

(原标题:面对“大数据杀熟”等乱象,我们需要什么样的“算法”?)

您是否有过类似经历:在求职网站填写一份有关工作喜好的调查,网站会自动推送匹配的岗位;打开购物软件,发现页面上多是近期搜索或浏览过的商品;通过应用程序(App)阅读一条养生信息,随后便会经常收到养生知识、养生产品的广告推送……伴随着信息技术迅猛发展、大数据广泛应用,算法推荐技术正在将人们带入个性化、定制化、智能化更强的信息传播时代。

因为算法推荐,互联网平台越来越能抓住用户的心,帮助人们更加方便、精准地获取信息,也牢牢吸引了用户的注意力。据不完全统计,当前基于算法的个性化内容推送已占整个互联网信息内容分发的70%左右。算法推荐逐渐成为各平台“基本操作”的同时,诸如低俗劣质信息精准推送、“大数据杀熟”等乱象也凸显出来。

作为数字经济的重要推动力,算法如何实现更高质量发展?移动互联时代,我们究竟需要怎样的“算法”?

1.

互联网平台越来越“懂”用户了吗?

“看完一个短视频后,平台会自动推荐很多相关视频,很方便。”在北京一家企业工作的陈辉是某款网络对战游戏的“发烧友”,平时喜欢通过手机观看相关短视频来提高操作水平。他发现,随着刷短视频的频率增加,平台推荐的相关视频越来越多,“游戏攻略、英雄介绍、对战视频都有,电商平台还会推荐鼠标、键盘。”

这些平台的自动推荐功能,运用了一种叫算法推荐的技术。这是一种通过人工智能分析和过滤机制对海量数据进行深度分析、完成信息内容与用户精准匹配的技术。

自从1994年美国明尼苏达大学研究组推出第一个自动化推荐系统,算法推荐技术如今已深入到资讯、社交、电商、短视频、搜索引擎等平台和互联网应用中。

互联网平台变得越来越“懂”用户,在极大方便用户获取信息的同时,也容易引发一些用户尤其是青少年不同程度的沉迷问题。

“说好只看5分钟,结果一刷就是几小时。”贵州省贵阳市的林忠信说,他12岁的儿子最近迷上刷一些恶搞的短视频,不仅影响学习成绩,与同伴一起进行户外活动的时间也少了。

从去年5月底开始,全国主要网络短视频平台中推广青少年防沉迷系统。在“青少年模式”下,大多数平台主要推送教育类、知识类等有益内容。但是,在缺乏监护人照管监督的情况下,防沉迷系统效果容易打折扣。

有受访者反映,一些新闻资讯、网络社交等平台的个性化推送存在“泛娱乐化信息多、低俗内容多、未经核实内容多”的“三多”现象;一些网络社交等平台防沉迷手段较少,容易导致青少年沉迷和盲目模仿。

北京大学中国社会与发展研究中心主任邱泽奇对记者表示,对自我的偏好是人类认知偏好的一部分,“偏好”阅读可能加速形成“信息茧房”效应和“情绪传染”效应,前者易导致视野局限,后者易使个人情绪受他人感染。

一些喜欢网购的人还可能因遭遇“大数据杀熟”而蒙受损失。一些平台利用算法技术给不同类型消费者数据“画像”,判断其偏好、用户黏合度、价格敏感度等,使不同用户看到的价格或搜索的结果不同。通常是老用户看到的价格比新用户贵,或搜索到的结果比新用户少。

今年“双11”期间,北京消费者韩女士发现,她通过某App预订一家酒店,“同一时间,不同手机”预订,价格相差约1000元。

9月中旬,微博上发起的一个投票显示,有1.5万人认为自己遇到价格明显差异的情况,占所有投票人员的近八成。

2.

“算法”是中性的,问题出在人身上

算法技术的重要意义在于,将此前基于人力的“人找信息”转变成基于电脑自动化运算的“信息找人”,既极大解放了人力,又更高效地完成了人和信息的匹配。

不过,仍有一些采编流程不规范、管理不严的网络社交媒体、新闻客户端在业务导向上走偏了。主要表现在:

——向用户推荐劣质信息。部分平台为留住用户,不断向用户推荐其关注过的相似内容,其中掺杂低俗媚俗、色情暴力、真假难辨、缺乏深度、价值观导向错乱等信息。一些互联网平台为增加点击率和流量,还会进行人工推荐,主动推荐“博眼球”、打“擦边球”信息,很多用户直呼“辣眼睛”。这反映出一些平台社会责任感缺失,更忽视了价值观建设。

——增加用户权益保护难度。一些算法推荐的内容过度强化用户偏好,影响了用户对于信息内容的自主选择权,加剧“信息茧房”效应,极易造成个体与社会的隔离,缺乏对当下国情世情的深刻认识和判断。由于依托于用户浏览记录等数据,算法推荐若设计不当,还可能侵犯用户个人隐私。

——进行“大数据杀熟”。中国传媒大学大数据研究中心教授沈浩介绍,对于算法而言,通过用户数据量以及数据更新频次,可轻易判断出是“生客”还是“熟客”。结果是平台大赚,商家、消费者利益受损,还容易导致垄断。

作为一项技术应用,算法推荐是中性的,问题出在设计者、操作者身上。

一方面,奉行“流量至上”的单一价值导向。一些平台为应对竞争,将用户停留时间作为重要考核指标,忽视了自身作为“把关人”的角色定位。而“把关人”必须用积极健康、符合公序良俗的价值观,指引算法推荐的设计和应用,方能确保推送内容价值导向正确。

另一方面,过度追求“利益至上”,利用其信息不对称优势侵犯消费者合法权益。这是一个需要引起足够重视的法律问题。

“一些算法的顶层设计思路存在问题。”中国社科院信息化研究中心主任姜奇平对记者表示,英国著名数学家、逻辑学家图灵等学者在勾画人工智能图景时提出,人和机器是对等、双向互进的关系,但现在一些算法设计呈现出人与机器的关系是单项的。比如在大数据方面,迷信相关分析,忽略因果分析。在定义算法效率方面,只把专业化效率定义为效率,而实际上多样化效率也是一种效率。

3.

大数据、算法推荐应更有“温度”

有网友最近在一个问答平台发文称,自己在某社交平台和朋友聊天时提到了一款扫地机,随后该平台出现了扫地机器人的广告。在跟帖中,很多网友疑问:“平台是否可能利用算法等技术,抓取用户聊天记录进行广告精准投放?”

App专项治理工作组专家何延哲今年9月表示,四部委App专项治理工作组在对App多批次检测中尚未发现App有“窃听”行为。但App“窃听”在技术实现上是有一定可能性的,相关部门有必要出台规定,明确企业进行大数据“画像”时能否使用个人语音信息,让用户更放心。

从另一角度看,社会舆论的疑问其实指向了大数据、算法等技术应用的价值导向问题。如何规范使用大数据、算法技术,让其变得更有“温度”、更让人放心?需要建立起一套行之有效的监管体系、评价系统,确保算法设计者、操作者以健康、正确、积极的价值观,指引算法推荐的设计和应用。

相关立法和监管亟待加强,特别是要强化对算法推荐本身的法治监管。

例如,正在公开征求意见的《个人信息保护法(草案)》规定,个人认为自动化决策对其权益造成重大影响的,有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。

11月10日,国家市场监管总局发布的《关于平台经济领域的反垄断指南(征求意见稿)》规定,基于大数据和算法,根据交易相对人的支付能力、消费偏好、使用习惯等,实行差异性交易价格或者其他交易条件;对新老交易相对人实行差异性交易价格或者其他交易条件;实行差异性标准、规则、算法;实行差异性付款条件和交易方式等,都可能被认定为“大数据杀熟”等不正当竞争行为而面临更严格监管。

北京大学电子商务法研究中心主任薛军对记者表示,应针对算法运用的场景、对公民基本权益的影响,对算法进行不同强度的监管。除了法律规定需更加明确外,可以建立某种社会化的评议机制,对平台运用算法产生的后果进行评价,要求平台基于公共价值予以优化。

“应该在算法技术内讲价值伦理,把人之为人的一面当作技术本身来考虑,倡导企业在商业行为中履行社会责任。”姜奇平认为,对算法推荐技术和平台的监管应确保公平和效率、个人信息开发与保护、个人信息与平台信息等方面的平衡,在促进数字经济服务业态健康发展层面考虑,可按照个性化信息服务所得和付出的均衡原则进行政策调整。他建议,确保消费者对信息采集者的服务好坏有评判权,使消费者始终处于主动地位。


延伸阅读
相关推荐
热点推荐
刚刚,中文流利的托卡耶夫就任总统,他的改革为何“很多人买账”

刚刚,中文流利的托卡耶夫就任总统,他的改革为何“很多人买账”

中国新闻周刊
2022-11-26 18:45:56
贪污超百亿!一条金制皮带21.8万,“巨贪”蔡国华的下场大快人心

贪污超百亿!一条金制皮带21.8万,“巨贪”蔡国华的下场大快人心

玖柒资讯
2022-11-26 23:09:29
马拉多纳的最后时刻:对侄子说不舒服,下葬时500克的心脏被摘除

马拉多纳的最后时刻:对侄子说不舒服,下葬时500克的心脏被摘除

照见古今
2022-11-17 12:59:54
本轮疫情太凶猛:八天感染20万,放开还是封闭?听三位专家如何说

本轮疫情太凶猛:八天感染20万,放开还是封闭?听三位专家如何说

玖柒资讯
2022-11-27 02:05:33
政法大学法学硕士给执法警察普法,社区居委会无权临时管控

政法大学法学硕士给执法警察普法,社区居委会无权临时管控

烟语法明
2022-11-27 22:57:09
大S经纪人:不装了,我摊牌了。直接承认大S就是故意激怒汪小菲的

大S经纪人:不装了,我摊牌了。直接承认大S就是故意激怒汪小菲的

达达说大话
2022-11-25 11:27:45
重磅:张文宏发表疫情最新论断,与钟南山所见略同…

重磅:张文宏发表疫情最新论断,与钟南山所见略同…

慧翔百科
2022-11-27 08:43:08
济南现有高风险区1557处,发放一次性生活补贴2331.2万元

济南现有高风险区1557处,发放一次性生活补贴2331.2万元

温柔的大马猴
2022-11-27 22:55:48
扎哈罗娃:俄罗斯在一些对俄不友好国家仅留不超过两名外交官

扎哈罗娃:俄罗斯在一些对俄不友好国家仅留不超过两名外交官

澎湃新闻
2022-11-27 09:31:14
为什么美国在联合国有三个席位?为什么另外两个一直没有公布?

为什么美国在联合国有三个席位?为什么另外两个一直没有公布?

小站的小站
2022-11-28 01:56:55
山东这些市因为财政吃紧开始减发公务员薪资,教师也同时减薪吗?

山东这些市因为财政吃紧开始减发公务员薪资,教师也同时减薪吗?

郭爱华追问教育
2022-11-27 14:18:37
张核子、张姗姗、巴颖到底是谁?还有他们背后的“核酸”商业帝国...

张核子、张姗姗、巴颖到底是谁?还有他们背后的“核酸”商业帝国...

麦格时光网
2022-11-28 00:03:05
穿帮了!普京会见的阵亡士兵母亲被网友发现是政府人员友情客串

穿帮了!普京会见的阵亡士兵母亲被网友发现是政府人员友情客串

旧日兮
2022-11-26 19:07:51
正式下了逐客令,邱彪弃用2位主帅亲儿子,有背景无实力的代表

正式下了逐客令,邱彪弃用2位主帅亲儿子,有背景无实力的代表

壹号体坛
2022-11-26 23:05:03
网爆“张小斐的兔子拉屎了”

网爆“张小斐的兔子拉屎了”

八卦观止zhi
2022-11-27 19:22:48
“打飞机” “乳交” “口交” “肛交” 等究竟算不算卖淫嫖娼?司法解释这样说....

“打飞机” “乳交” “口交” “肛交” 等究竟算不算卖淫嫖娼?司法解释这样说....

医殇
2022-09-14 19:36:51
李小龙去世49年,他的死因有了新发现,专家:他死前喝了很多水

李小龙去世49年,他的死因有了新发现,专家:他死前喝了很多水

舞娱天地
2022-11-26 14:23:56
媒体人:俱乐部总经理出任国家队主教练,确实是陈戌源的一大发明

媒体人:俱乐部总经理出任国家队主教练,确实是陈戌源的一大发明

直播吧
2022-11-27 15:18:03
高颜值夫妇却生出“丑宝宝”,亲子鉴定后,宝爸叹气:凑合着养吧

高颜值夫妇却生出“丑宝宝”,亲子鉴定后,宝爸叹气:凑合着养吧

宝宝贝贝好可爱
2022-11-26 00:22:10
张兆辉周海媚同框!一个近60岁还帅成小伙,一个55岁自然老还漂亮

张兆辉周海媚同框!一个近60岁还帅成小伙,一个55岁自然老还漂亮

女王时尚范
2022-11-27 20:22:32
2022-11-28 03:36:49

头条要闻

世界杯-克拉马里奇梅开二度 克罗地亚4-1加拿大

头条要闻

世界杯-克拉马里奇梅开二度 克罗地亚4-1加拿大

财经要闻

体育要闻

梅西带球迷胜利大合唱 教练组集体飙泪

娱乐要闻

曝张嘉倪5月已离婚?庆生文案显端倪

科技要闻

马斯克首曝Twitter 2.0,将支持长推文、视频、支付等功能

汽车要闻

极星3公布安全科技配置 标配9气囊和激光雷达

态度原创

教育
艺术
家居
房产
手机

教育要闻

女排奥运冠军林莉受聘福建工程学院副教授

艺术要闻

出色的海景大师,画出了海水的无限情调!

家居要闻

辽宁夫妻爆改101㎡二手房 浪漫法式让人直呼心动

房产要闻

平均7家抢1宗,北京土拍热度创新高!

手机要闻

国产手机冲击高端再次失败,为何旗舰机仍是苹果天下

进入关怀模式