Predictim的網(wǎng)站稱該公司已被反饋“淹沒”，無限期推遲全面推出，而其高管“專注于評估我們?nèi)绾翁峁┓?wù)并進(jìn)行更改以解決我們收到的一些建議。”該網(wǎng)站表示不會生成新的掃描并提供退款。

停止標(biāo)志著許多人批評的服務(wù)突然出現(xiàn)，這是一種令人不安的象征，即算法在判斷和預(yù)測人類行為方面正在發(fā)揮作用。

Predictim - 現(xiàn)在用于分析求職者的幾種人工智能服務(wù)之一 - 掃描嬰兒保姆的社交媒體，并提供對保姆的個(gè)性的自動(dòng)評估，包括他們有“不良態(tài)度”的風(fēng)險(xiǎn)。

公司高管周五早些時(shí)候沒有回復(fù)評論請求，他們認(rèn)為社交媒體掃描服務(wù)是一種重要的工具，可幫助父母在他們親近孩子之前阻止冒險(xiǎn)或“天生邪惡”的保姆。他們此前曾辯稱，該服務(wù)可以控制偏見和隱私問題，并且公眾批評是錯(cuò)誤的。

“華盛頓郵報(bào)”與幾位家長進(jìn)行了交談，他們表示，人格篩選影響了他們對保姆性格的看法，以及一名小保姆，他驚訝地發(fā)現(xiàn)自動(dòng)化系統(tǒng)已將她標(biāo)記為欺凌和不尊重的風(fēng)險(xiǎn)。

最近幾周，F(xiàn)acebook，Twitter和Instagram阻止了該服務(wù)的大部分訪問，稱其社交媒體掃描違反了用戶監(jiān)控和數(shù)據(jù)隱私的規(guī)定。公司高管上個(gè)月末表示，他們不受這些限制的影響，并打算開始將更多數(shù)據(jù)(例如保姆的博客文章)納入其分析中。

研究人員和AI Now研究所的聯(lián)合創(chuàng)始人凱特克勞福德稱這項(xiàng)服務(wù)“容易出錯(cuò)，基于破碎的假設(shè)和隱私入侵。更糟糕的是 - 這是雇主和求職者之間不斷增長的權(quán)力不對稱的可怕癥狀。低薪工人不會選擇退出。“