在方才閉幕的G20杭州峰會上，世界各國的率領人在一個問題上告竣了一致：日益嚴重的收入不服等現象存在著龐大的隱患。各國率領人都強調，應該越發均等地分享全球經濟增長帶來的好處。

在科技突飛猛進的當下，技能進步自然而然地被作為辦理途徑之一，算法、大數據、呆板進修等技能正不絕滲透到經濟、政治、司法等各個層面，，但結果如何？《數學殺傷性兵器》（WeaponsofMathDestruction）一書的作者凱西·奧尼爾（CathyO'Neil）指出，這些技能恰恰在加劇收入不服等現象。

被算法“算計”

美國人開始越來越多地遭遇這樣的經驗：求職進程中，因為一項性格測試被刷下陣來，只因算法認為他不是符合人選；去銀行貸款，利率比別人都要高，只因所住地域多有信用記錄不良者；被從重判罰，只因親朋摯友中有人是累犯。并且，在被算法“算計”之后，他們也都被蒙在鼓里，得不到一個公道的表明。

針對這種現象，奧尼爾調查了各個規模對算法和大數據的利用，以及它們是如何使窮人的糊口落井下石、如何放大社會不服等現象的。

她在書中分解了不少大數據模子，它們都存在一個配合點：用一種指標來代替真正需要權衡的指標。好比，店主依據信用記錄來判定應聘者的責任心，放貸機構按照語法黑白來判定申請人的信費用。但這些指標之間真能劃上等號嗎？信用記錄也許更多地代表了財產程度，語法錯誤多的也有大概是信用優良的移民，并非所有的署理指標都經得起推敲。

在美國，近半數的店主都要求應聘者提交信用陳訴，把信用評分等同于責任心或靠得住性。這樣做會形成一種危險的貧困正反饋輪回。假如有人因為信用記錄不良而找不到事情、沒有收入，其信用記錄只會越來越差，從而越來越難以找到事情。但在店主眼中，滿紙數據的信用記錄卻比工錢判定都要靠得住。他們從不思量數字背后埋沒著奈何的假設。

孤獨起來看，這些算法發生的效應就已經足夠惡劣，更況且它們之間還會彼此強化。教誨、就業前景、債務和犯法記錄全都彼此關聯。窮人因為入不夠出，更有大概擁有不良信用記錄，并糊口在治安不良地域，與其他窮人比鄰而居。系統一旦消化這些數據，就會推薦對他們越發倒霉的次級貸款、更差的學校等。警方會調派更多警力在內地維持治安，從而激發更多不須要的逮捕，誰一旦罪名創立，還會被從重懲罰。

隨后，這些功效又會形成新一組數據，使他們在日后申請房貸、貸款和保險時被收取更高的費率。

決定依據而非決定功效

奧尼爾擔憂，這種技能模子和真人分道揚鑣的現象會帶來道德上的效果。虧得，越來越多的狀師、社會學家和統計學家開始存眷數據濫用造成的危害，并思索辦理之道。

針對算法假設不足透明、令人費解或經不起推敲的現象，辦理步伐是在算法層面加以調解，浮現哪些信息對最終決定起到了抉擇性的浸染。并通過立法，增加對小我私家數據的掩護，對算法透明度實行類型化的打點。

別的，當局也可以優先用大數據來改進民生，而不是嚴打犯法，由此贏得公家的信任。總而言之，算法可以作為決定依據，但不能替代人類做出決定。

在利用恰當的環境下，它們或者能協助當局削減收入不服等現象。哈佛大學傳授戈德史女士（StephenGoldsmith）就暗示，呆板進修有望厘革民眾政策規模的方方面面。

美國芝加哥的民眾衛生康健部就用大數據和呆板進修來辨別體內鉛含量超標的兒童，并據此采納法子，輔佐排除住房中的含鉛涂料。還用呆板進修來發明存在犯法傾向的青少年，提前加以過問。

通過越發準確地分派稀缺的民眾資金，呆板進修可覺得當局節減大筆不須要的開支。大數據也開始參加當局決定，成為一項有效的決定東西。大倫敦地域的一個自治市就在開拓一種算法，用以預測哪些人大概會無家可歸。這些預測可以使當局處事來得越發實時，更有針對性，或者也能輔佐當局越發有效地縮減收入差距。