大數據應用的“傲慢與偏見”(圖)
美國有壹個著名的數學博客叫MATHBABE.ORG（數學寶貝），其博主是數學達人CATHY ONEIL（凱茜?奧尼爾），她是心懷理想的人，辦博客的目的就是想回答好壹個問題：“壹個學術界以外的數學家怎樣能使世界更美好？”2016年9月，奧尼爾在Crown出版社出版了新著Weapons of Math Destruction：How Big Data Increases Inequality and Threatens Democracy（《數學殺傷武器：大數據如何加劇了不平等和威脅著民主制》）。Weapons of Math Destruction是大規模殺傷武器的意思，她把該詞組中的Mass改為發音很接近的Math ，就成為“數學殺傷武器”的意思了，這是很巧妙的文字游戲。
Weapons of Math Destruction：How Big Data Increases Inequality and Threatens Democracy
她於1999年在哈佛大學獲得數學博士學位，後來在麻省理工學院和巴納德學院從事過計算代數幾何的研究，在金融界工作過肆年，包括在D.E. Shaw對沖基金當了兩年的定量分析師，發表過不少論著，如2013年發表的著作Doing Data Science: Straight Talk from the Frontline（《做數據科學：來自第壹線的平實談話》），還有同壹年發表的電子書On Being a Data Skeptic（《論如何做壹名數據懷疑論者》）。在金融界工作幾年後，她對於對沖基金模型徹底失望了，對於大數據分析的不當應用拾分反感，還積極投身於“占領華爾街”運動。
可以說，美國人生活在算法時代。人們能上哪個學校、能否獲得購車貸款、健康保險的繳費標准是多少等各種決策，越來越多地由數學模型決定，而不是由人決定。從道理上說，這應該導致更公平的結果，因為壹切都按規則來處理，似乎就消除了偏見。遺憾的是，奧尼爾在書中指出，數學模型帶來的是更多的不公平。現在使用的很多數學模型是不透明的，未受到規制的，明明有錯卻容不得質疑的。
她在新書中描述了廣泛應用的壹些數學模型是如何懲罰窮人、犒賞富人的，因為這些模型就是基於“成見、誤解與偏見”的。她將最具傷害性的這類模型稱為“數學殺傷武器”，社會弱勢群體在求學、求職、借款、遭遇牢獄之災的時候，都會收到這種武器的可怕傷害。例如，壹些雇主利用信用評分來評價潛在的雇傭對象，認為若是其信用評分不高，今後的工作表現也好不到哪兒去。其實，贰者之間並不存在這樣的穩定聯系。又如，以盈利為目標的大學會利用信用評分數據來發現那些易於被俘獲的群體，引誘他們入學，最終往往使他們債台高築。再如，壹些汽車保險公司在審查申請入險者資料的時候，不是看他們的駕駛記錄，而是看他們的消費模式。有的年輕人由於住在窮人區，就申請不到貸款，從而上不起大學----某算法主要根據申請人家庭住址的郵政編碼，就作出了“貸款給他們有較大風險”的判斷。還有，壹些所謂的犯罪預測軟件的實際效果，是引導警員們去貧困街區關注壹些輕微滋事案件。她說，當片警動不動就把少數族裔的窮孩子當街攔住，推推搡搡，再警告壹番，大數據的害處就明顯不過了。與此同時，這些數學模型總是將社會中的富足階層置於各種營銷筒倉內，使他們的生活“更智能化，更便捷”。她令人信服地論證說，我們必須更負責任地應用數學模型，美國聯邦政府必須對大數據應用加以規制。
當然，她寫作此書的目的並非反對大數據應用，而是呼喚人們頭腦清醒，在利用大數據“興利”的同時壹定要注意“除弊”。該書獲得很好的反響，出版不過壹個月有余，已經獲得“2016年國家圖書獎（非虛構作品類）”的提名。
博主後記：美國國家圖書獎終選名單昨日發布，見下方照片。《數學殺傷武器》未能入選。
2016 National Book Award Finalists Announced
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
Weapons of Math Destruction：How Big Data Increases Inequality and Threatens Democracy
她於1999年在哈佛大學獲得數學博士學位，後來在麻省理工學院和巴納德學院從事過計算代數幾何的研究，在金融界工作過肆年，包括在D.E. Shaw對沖基金當了兩年的定量分析師，發表過不少論著，如2013年發表的著作Doing Data Science: Straight Talk from the Frontline（《做數據科學：來自第壹線的平實談話》），還有同壹年發表的電子書On Being a Data Skeptic（《論如何做壹名數據懷疑論者》）。在金融界工作幾年後，她對於對沖基金模型徹底失望了，對於大數據分析的不當應用拾分反感，還積極投身於“占領華爾街”運動。
可以說，美國人生活在算法時代。人們能上哪個學校、能否獲得購車貸款、健康保險的繳費標准是多少等各種決策，越來越多地由數學模型決定，而不是由人決定。從道理上說，這應該導致更公平的結果，因為壹切都按規則來處理，似乎就消除了偏見。遺憾的是，奧尼爾在書中指出，數學模型帶來的是更多的不公平。現在使用的很多數學模型是不透明的，未受到規制的，明明有錯卻容不得質疑的。
她在新書中描述了廣泛應用的壹些數學模型是如何懲罰窮人、犒賞富人的，因為這些模型就是基於“成見、誤解與偏見”的。她將最具傷害性的這類模型稱為“數學殺傷武器”，社會弱勢群體在求學、求職、借款、遭遇牢獄之災的時候，都會收到這種武器的可怕傷害。例如，壹些雇主利用信用評分來評價潛在的雇傭對象，認為若是其信用評分不高，今後的工作表現也好不到哪兒去。其實，贰者之間並不存在這樣的穩定聯系。又如，以盈利為目標的大學會利用信用評分數據來發現那些易於被俘獲的群體，引誘他們入學，最終往往使他們債台高築。再如，壹些汽車保險公司在審查申請入險者資料的時候，不是看他們的駕駛記錄，而是看他們的消費模式。有的年輕人由於住在窮人區，就申請不到貸款，從而上不起大學----某算法主要根據申請人家庭住址的郵政編碼，就作出了“貸款給他們有較大風險”的判斷。還有，壹些所謂的犯罪預測軟件的實際效果，是引導警員們去貧困街區關注壹些輕微滋事案件。她說，當片警動不動就把少數族裔的窮孩子當街攔住，推推搡搡，再警告壹番，大數據的害處就明顯不過了。與此同時，這些數學模型總是將社會中的富足階層置於各種營銷筒倉內，使他們的生活“更智能化，更便捷”。她令人信服地論證說，我們必須更負責任地應用數學模型，美國聯邦政府必須對大數據應用加以規制。
當然，她寫作此書的目的並非反對大數據應用，而是呼喚人們頭腦清醒，在利用大數據“興利”的同時壹定要注意“除弊”。該書獲得很好的反響，出版不過壹個月有余，已經獲得“2016年國家圖書獎（非虛構作品類）”的提名。
博主後記：美國國家圖書獎終選名單昨日發布，見下方照片。《數學殺傷武器》未能入選。
2016 National Book Award Finalists Announced
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
推薦: