fbpx

三大社交網站限制Predictim利用人工智能審查保姆背景

據報導,多間社交媒體公司如Facebook、Instagram和Twitter限制Predictim對社交媒體網站數據訪問設限。Predictim是一家總部位於美國加州的創業公司,透過使用機器學習來審查即將成為保姆的個人資料。在華盛頓郵報之前報導了其方法後,社交網絡對該公司採取了行動,引起了廣泛的批評。

Predictim聲稱使用「先進的人工智能」來判斷保姆的適用性。這包括在提供會基於保姆的個人Facebook、Instagram和Twitter歷史來對其性格的作出自動評估。該公司聲稱它可以預測個人是否吸毒者,會否可能欺負或騷擾他人,或者他們的態度「不友善」。

專家們批評Predictim的服務是不科學的,並指出機器學習在解析人類語音等複雜數據方面是出了名的不可靠。 AI可能擅長識別照片中的物體或將手寫數字化,但它無法可靠地解釋音調和語音中的細微差別,如諷刺或笑話。數據政策專家還指出,Predictim的軟件並沒有解釋它的決定如何,這意味著潛在的保姆可能會在不知道原因或提供解釋的情況下失去工作。

據華盛頓郵報和BBC的新聞報導,Facebook、Instagram和Twitter都在過去幾週內對Predictim採取了行動。 Facebook表示,將嚴重限制該公司在Facebook和Instagram上訪問用戶數據的行為,此前該公司違反了禁止開發人員使用此信息審查求職者的禁令。 Twitter在本週也撤銷了Predictim對API的訪問權限(用於訪問規模的數據,而不是閱讀個人資料)。Twitter發言人表示,會嚴格禁止將Twitter數據和API用於監視目的,包括進行背景調查。

Predictim的總裁及創辦人Sal Parsa表示,該公司沒有做錯任何事。 Parsa在接受BBC訪問時表示「每個人都透過社交媒體去了解另一個人,或者會透過Google去做這樣的事。我們只是在將這個過程自動化。」

Parsa還建議,掃描用戶數據以便向他們定位廣告的社交網絡有自己阻止其軟件的動機。 現在又有一家初創公司試圖利用這些數據來幫助父母選擇一位更好的保姆,並在此過程中賺到一點錢。

無論這些行動如何,關於自動背景調查合法性的問題仍然懸而未決。一些專家建議,Predictim的軟件可能會違反州級禁止顧主要求訪問求職者的社交媒體帳戶。其他社交網絡希望完全阻止這種數據抓取。 LinkedIn目前正處於與第三方網站HiQ的法律鬥爭中,後者利用其數據來預測員工何時可能離職。

與此同時,公司繼續創建更多基於人工智能的篩選服務,不僅僅是關注社交媒體活動,還包括其他指標,包括個人的訪談表現。專家擔心將關鍵決策移交給無法解釋其思維或理解人類行為的算法是不明智的,而銷售這些服務的公司則表示機器級方法更加詳細和公正。

資料來源:The Verge

黃 家樂

不會寫Code,但很會寫文的見習小編。聯絡電郵:ben@techapple.com

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

限制時效已用盡。請重新載入驗證碼。