即時新聞:
新聞
輿情監測平臺  >  輿情研究  > 正文

“算法誤導”可能是至今仍被忽視的嚴重問題

2018年03月12日 09:54     來源: 微信號墩墩輿情課    作者: 墩爸   

  “算法誤導”可能是一個至今仍被忽視的問題。新聞客戶端、搜索平臺、媒體網站乃至購物平臺,都或多或少地存在各種針對用戶“瀏覽習慣”“關注傾向”“興趣愛好”等個體特點的大數據算法規則,以便根據計算結果進行傾向性的推薦和推送,最終達到信息傳輸后實際成果轉化的效益最大化。

  對此,我擔憂得是,如果這種算法規則被一些不良群體或敵對組織利用,后果可能不堪設想。具體分析如下:

  一是利用規則誤導“民意走向”。用戶瀏覽新聞、接受信息都會或多或少地表現出一些政治傾向、情緒特點和興趣選擇。如果用戶通過客戶端、社交媒體等平臺瀏覽點擊較多的社會負面新聞,平臺就會通過瀏覽記錄、點擊頻率等痕跡算法,分析出更容易讓該用戶點擊和傳播的新聞種類和信息類型,進而有選擇地進行定向推送。個人分析認為,一旦有灰黑勢力、極端組織利用這樣的規則算法,對一些“憤青”用戶進行惡意信息定向灌輸的話,極易造成“憤青”用戶接受的信息更加“憤青”、“嗜丑”用戶接受的信息更加“嗜丑”的偏離局面,甚至誘導這些用戶無故產生“社會十分黑暗”“到處充滿罪惡”的心理錯覺,最終達到“民意誤導”的險惡目的。

  二是借助算法分析用戶數據。網址IP、瀏覽習慣、興趣愛好、購物記錄這些孤立的數據維度,一旦加以系統整合,就很容易定位和分析出用戶的職業、年齡、性別、地址。我們可以想象,這些數據算法被敵對組織利用和加以針對性分析,等到他們分析出用戶信息后,就會通過“人肉威脅”“線下施壓”“線上圍攻”等方式,對任何一位不利于該組織目的的網民進行“定點清除”,社會危害隱患極大。從當前多起“正能量網民頻受人身威脅”類似案例來看,這或許是一大重要原因。

  三是根據結果推送有害信息。算法本質在于結果,如果有人根據結果,有預謀地組織人員頻繁輸入易被平臺置頂推薦的熱詞熱搜,同時又對有害信息進行針對性包裝的話,那么,大量有害信息就會通過算法結果推送到大批用戶手里,還能最大限度規避了“被攔截”“被屏蔽”的風險,將給社會穩定面管控帶來重大風險難題,很難應對破解。

  四是“碰瓷”規則創設虛假熱點。當用戶習慣逐步養成,規則算法推送成為平臺潛規則,就會令社會圈層分化越發明顯,三觀界限越發清晰。而這時候,如果有人“碰瓷”規則算法創設某一個符合某個群體的熱點時,就會令該群體產生“熱點假象”,造成“民意錯覺”,同時會表現出對圈外群體反應極強的排斥感,進而形成群體間的爭論提前,給后續引導應對和線下處置帶來極大難度。此外,如果陷入群體爭論,還會反向觸發“逆向傳播”,反而落入預設的負面“議題陷阱”。

  要切實破解“算法誤導”,存在較大的事實難度和客觀難點。

責任編輯:仇海瓊
中國警察網官方微信:掃一掃,免費訂閱!
最權威、最及時、最全面的公安新聞發布平臺。
精彩的警察故事,靚麗的警花警草,靠譜的預警知識……實乃廣大"警粉"微信必備!
點擊排行
猜你喜歡
欧美AV亚洲AV国产AV综合区