＊本文只能在《好奇心日?qǐng)?bào)（www.qdaily.com）》發(fā)布，即使我們?cè)试S了也不許轉(zhuǎn)載＊

加州山景城電-多年來(lái)，Google 訓(xùn)練的計(jì)算機(jī)系統(tǒng)能從 YouTube 上清除有版權(quán)的內(nèi)容和色情內(nèi)容。不過(guò)，當(dāng)工程師們看到可口可樂(lè)、寶潔和沃爾瑪?shù)膹V告出現(xiàn)在種族主義、反猶或恐怖主義視頻的旁邊，他們才意識(shí)到系統(tǒng)模式的盲點(diǎn)：計(jì)算機(jī)不能理解語(yǔ)境。

現(xiàn)在，要想平息廣告大客戶(hù)的怒氣，關(guān)鍵在于教會(huì)計(jì)算機(jī)理解人能立刻感知的內(nèi)容，因?yàn)榭蛻?hù)們的廣告與極端主義團(tuán)體的視頻、侮辱性信息出現(xiàn)在了一塊兒。

Google 的工程師、產(chǎn)品經(jīng)理、政策專(zhuān)家都在試圖讓計(jì)算機(jī)理解，視頻里哪些微妙內(nèi)容會(huì)引人反感。比如，廣告商可能可以忍受嘻哈視頻中有種族稱(chēng)謂，卻會(huì)被種族主義光頭黨視頻里的這些稱(chēng)呼嚇到。

知名企業(yè)的廣告偶爾會(huì)出現(xiàn)在讓人反感的視頻旁邊，對(duì) YouTube 來(lái)說(shuō)這一直是個(gè)麻煩，但在近幾周變成了急需解決的問(wèn)題。因?yàn)閭惗亍短┪钍繄?bào)》等媒體報(bào)道說(shuō)，有些品牌由于自動(dòng)廣告的緣故不經(jīng)意間支持了極端主義團(tuán)體，因?yàn)?YouTube 會(huì)與視頻內(nèi)容創(chuàng)作者共享企業(yè)廣告收入的一部分。

YouTube 大規(guī)模、自動(dòng)化系統(tǒng)中的小差錯(cuò)演變成了一場(chǎng)公關(guān)噩夢(mèng)。AT&T、強(qiáng)生（Johnson &Johnson）等公司表示，他們會(huì)撤銷(xiāo)在 YouTube、Google 上的展示型廣告，直到他們確保這類(lèi)問(wèn)題不再發(fā)生。

消費(fèi)者每天在 YouTube 觀看 10 億多個(gè)小時(shí)視頻，使之成為互聯(lián)網(wǎng)最大的視頻節(jié)目平臺(tái)。當(dāng)廣告收入從電視流向互聯(lián)網(wǎng)，YouTube 也成了最顯而易見(jiàn)的受益者。不過(guò)，近期這些問(wèn)題導(dǎo)致 Google 遭到了指責(zé)，人們認(rèn)為它沒(méi)有充分考慮到廣告客戶(hù)的利益。市值幾十億的 YouTube，大部分收入依然來(lái)自廣告，所以這是重大問(wèn)題。

“我們非常重視，”Google 的首席商務(wù)官 Philipp Schindler 上周在采訪(fǎng)中說(shuō)，“正在緊急處理。”

過(guò)去兩周，Google 更改了那些類(lèi)型視頻可匹配廣告的設(shè)置，將廣告與含仇恨言論、歧視內(nèi)容的視頻隔離開(kāi)。

此外，Google 還在簡(jiǎn)化流程，讓廣告商能在 YouTube 和 Google 展示廣告的設(shè)置中排除特定站點(diǎn)、頻道或視頻。

這讓品牌能仔細(xì)設(shè)置想回避的內(nèi)容類(lèi)型，比如“含有性暗示”或“聳動(dòng)/怪異”的視頻。

Google 還設(shè)定了更為嚴(yán)格的默認(rèn)安全標(biāo)準(zhǔn)，廣告商必須主動(dòng)選擇，才能設(shè)置把廣告放在更刺激的內(nèi)容旁邊。當(dāng)廣告出現(xiàn)在侮辱性?xún)?nèi)容旁邊，Google 會(huì)發(fā)出一種應(yīng)急警告。

這家硅谷巨頭正在努力保住世界第二大廣告客戶(hù)聯(lián)合利華（旗下有德芙和 Ben &Jerry’s 等消費(fèi)品牌）。當(dāng)其他品牌開(kāi)始從 YouTube 撤廣告時(shí)，聯(lián)合利華發(fā)現(xiàn)，它旗下品牌也有 3 次出現(xiàn)在了不良內(nèi)容頻道里。

Google 某項(xiàng)目正在利用機(jī)器學(xué)習(xí)技術(shù)解決內(nèi)容識(shí)別難題，因?yàn)閺V告客戶(hù)認(rèn)為 YouTube 上有些內(nèi)容不體面。圖片版權(quán) Dado Ruvic/路透社

不過(guò)，聯(lián)合利華的首席營(yíng)銷(xiāo)官 Keith Weed 決定不撤下廣告，因?yàn)槌霈F(xiàn)在不良內(nèi)容旁的廣告比例非常小。根據(jù)視頻分析公司 OpenSlate 的數(shù)據(jù)，在 YouTube 上平均 10 萬(wàn)美元的廣告就會(huì)覆蓋 7000 多個(gè)頻道，而聯(lián)合利華在 YouTube 上花了上億美元。而且 Google 發(fā)現(xiàn)，問(wèn)題廣告的出現(xiàn)是因?yàn)榘踩?jí)別設(shè)置中有個(gè)人工的錯(cuò)誤。

Weed 說(shuō)，最符合聯(lián)合利華利益的做法是取得對(duì)方的讓步，而非終止合作。作為新舉措的一部分，Google 同意與外部公司合作，進(jìn)行第三方內(nèi)容審核，以確定 YouTube 上的廣告位安排。

Weed 說(shuō)，從前他提出要獨(dú)立審查時(shí)，Google 高管認(rèn)為，這像是暗示他們不值得信任。Weed 說(shuō)，這與信任無(wú)關(guān)，而是企業(yè)能否“批改自己的作業(yè)”。他說(shuō)，他認(rèn)為 Google 最終會(huì)同意的，只不過(guò)“現(xiàn)在的情況加快了他們的計(jì)劃。”

人們注意到了 Google 的努力。比如強(qiáng)生公司表示，他們恢復(fù)了在某些國(guó)家的 YouTube 廣告。Google 表示，其他企業(yè)也開(kāi)始回歸了。

總地來(lái)說(shuō)，此前 Google 沒(méi)有充分解決這個(gè)問(wèn)題，原因是，這不是非解決不可；廣告出現(xiàn)在不良內(nèi)容旁的概率很低，而且這不在廣大受眾的視野范圍內(nèi)。Google 表示，對(duì)許多頂級(jí)廣告客戶(hù)來(lái)說(shuō)，出現(xiàn)不良內(nèi)容的情況還不及他們廣告總量的 0.001%。

為了訓(xùn)練計(jì)算機(jī)系統(tǒng)，Google 正在采用機(jī)器學(xué)習(xí)技術(shù)——這也是 Google 許多重大技術(shù)突破的基礎(chǔ)，比如無(wú)人駕駛車(chē)。Google 還引入了大批人工團(tuán)隊(duì)（拒絕透露團(tuán)隊(duì)的規(guī)模）來(lái)審查計(jì)算機(jī)標(biāo)記的內(nèi)容是否合適。

本質(zhì)上，他們?cè)诮逃?jì)算機(jī)學(xué)習(xí)這些內(nèi)容：穿著運(yùn)動(dòng)胸罩和褲襪的女性做瑜伽，這類(lèi)運(yùn)動(dòng)視頻沒(méi)有性暗示，對(duì)廣告客戶(hù)是安全的。同樣的道理，好萊塢動(dòng)作片中，演員持槍的情節(jié)對(duì)某些廣告客戶(hù)來(lái)說(shuō)可以接受，但類(lèi)似畫(huà)面一旦涉及伊斯蘭國(guó)組織（Islamic State）狙擊手就不合適了。

Google 過(guò)去做過(guò)一個(gè)類(lèi)似電影評(píng)級(jí)的視頻自動(dòng)評(píng)級(jí)系統(tǒng)，標(biāo)準(zhǔn)是對(duì)特定觀眾群的合適程度。但 Google 現(xiàn)在著力解決的是另一個(gè)問(wèn)題。

“計(jì)算機(jī)要理解上下文會(huì)更加困難，所以我們?cè)谟媚壳白钚隆⒆詈玫臋C(jī)器學(xué)習(xí)技術(shù)實(shí)現(xiàn)這個(gè)效果，” Schindler 說(shuō)。

Google 計(jì)算機(jī)系統(tǒng)會(huì)把一段 YouTube 視頻拆解成一幀一幀的，分析每個(gè)畫(huà)面，輔以人工審查的實(shí)例判斷哪些內(nèi)容安全、哪些不安全。計(jì)算機(jī)也能分析視頻中的對(duì)話(huà)、作者提供的內(nèi)容簡(jiǎn)介，并識(shí)別圖形信號(hào)，發(fā)現(xiàn)不良內(nèi)容的微小線(xiàn)索等。

目的就是讓機(jī)器最終自己抉擇。如果品牌認(rèn)為 Google 沒(méi)有標(biāo)記出不良內(nèi)容，這些情況會(huì)反饋給計(jì)算機(jī)，隨著時(shí)間推移，計(jì)算機(jī)系統(tǒng)會(huì)越發(fā)完善。

Google 表示，目前標(biāo)記的不適用廣告的視頻數(shù)量是先前的 5 倍，但它拒絕提供相關(guān)視頻的絕對(duì)數(shù)量。

每一分鐘，YouTube 就有 10 萬(wàn)多個(gè)上傳視頻、400 個(gè)小時(shí)新內(nèi)容，300 萬(wàn)個(gè)贊助商頻道上線(xiàn)，Schindler 說(shuō)，Google 不可能保證徹底消滅問(wèn)題內(nèi)容。他打了個(gè)比方，汽車(chē)公司不能承諾輪胎跑 1 萬(wàn)英里不出問(wèn)題，哪怕是新輪胎。

“沒(méi)有哪個(gè)系統(tǒng)百分百完美，”他說(shuō)，“但我們?cè)诒M全力保證它盡可能安全。”