日产码一至六区不卡_高清偷自拍第1页-国产在线拍偷自揄观看视频网站-精品国产一区二区三区不卡在线-欧美日韩国产亚洲另类在线_欧美成人亚洲高清在线观看_人妻精品久久久久中文字幕一冢本_久久久久国产精品无套专区_日韩精品无码专区免费视频

搜索

· 科技

News

硅谷巨頭如何自我監(jiān)管?

日期: 2018-08-15
瀏覽次數(shù): 21

硅谷巨頭如何自我監(jiān)管?

?

2018-8-15 青野云麓

?

文/EW RA| Zoe Duan

來(lái)源:東西文娛


導(dǎo)讀


今年,視頻網(wǎng)站和社交網(wǎng)站內(nèi)容合規(guī)問(wèn)題頻頻爆發(fā),互聯(lián)網(wǎng)整治收緊,監(jiān)管潮席卷文娛、廣告、游戲各個(gè)領(lǐng)域,海外公司中,F(xiàn)acebook先后被通俄門、假新聞、謀殺和自殺視頻、劍橋分析公司數(shù)據(jù)丑聞沖到了風(fēng)口浪尖; YouTube也因虐童視頻、學(xué)術(shù)造假?gòu)V告、UGC網(wǎng)紅內(nèi)容創(chuàng)作者行為失當(dāng)?shù)葍?nèi)容問(wèn)題纏身。


雖然在內(nèi)容監(jiān)管和自查方面,海外互聯(lián)網(wǎng)內(nèi)容公司和社交網(wǎng)站的表現(xiàn)并不足以被稱作榜樣,但也正如Facebook近期的聲明中所稱——“危機(jī)平臺(tái)內(nèi)容的對(duì)手是背靠資本的頑固派,他們可能永不罷休,甚至不斷改變策略,這是一場(chǎng)軍備競(jìng)賽,平臺(tái)要做的就是持續(xù)進(jìn)化”,從監(jiān)管策略改進(jìn)和技術(shù)完善的角度上說(shuō),以Facebook為代表的社交和直播、以YouTube 為代表的視頻與UGC內(nèi)容平臺(tái)、還有Instagram為代表的短視頻領(lǐng)域,也已積累出一些既定的方法,對(duì)問(wèn)題的預(yù)見和更新策略布局或有借鑒意義。


綜合來(lái)看,海外網(wǎng)站的爭(zhēng)議內(nèi)容的形態(tài)和問(wèn)題可以概括為以下方面:呈現(xiàn)形式要以文字帖、視頻、短視頻、直播、游戲、廣告為主;涉及的具體違規(guī)問(wèn)題包含——用戶隱私侵犯和數(shù)據(jù)泄露,不正當(dāng)定向廣告,涉及暴力、色情、恐怖主義、異端宗教、虐童、陰謀論、種族歧視、性別歧視等不良內(nèi)容,虛假新聞,涉嫌詐騙和數(shù)據(jù)挖掘的釣魚網(wǎng)站。根據(jù)平臺(tái)產(chǎn)品組成和內(nèi)容屬性,也呈現(xiàn)了不同側(cè)重的內(nèi)容監(jiān)管機(jī)制。?



硅谷巨頭如何自我監(jiān)管?


社交和直播自我監(jiān)管-Facebook


Facebook 與Instagram系統(tǒng)保持協(xié)同連接的關(guān)系, 一般適用于Facebook的內(nèi)容監(jiān)測(cè)和審查功能也同樣適用于Instagram,同時(shí)據(jù)公司相關(guān)人士稱,F(xiàn)acebook的平臺(tái)安全維護(hù)團(tuán)隊(duì)中有部分人員專門負(fù)責(zé)Instagram事務(wù),因此連同兩者談Facebook整體的內(nèi)容監(jiān)管機(jī)制


1、細(xì)化社區(qū)準(zhǔn)則 精準(zhǔn)定義違規(guī)內(nèi)容


Facebook的社區(qū)準(zhǔn)則主要職能是界定違規(guī)內(nèi)容,過(guò)去,社區(qū)準(zhǔn)則中的違規(guī)內(nèi)容定義較為模糊,反饋稱容易混淆,數(shù)據(jù)泄露丑聞爆發(fā)后不久,F(xiàn)acebook發(fā)布27頁(yè)的更新版準(zhǔn)則,圍繞“暴力與犯罪”、“安全”、“侮辱性內(nèi)容”、“信譽(yù)真實(shí)性”、“知識(shí)產(chǎn)權(quán)”“內(nèi)容相關(guān)的請(qǐng)求”六個(gè)大類,有22條詳細(xì)規(guī)定,違規(guī)內(nèi)容和賬號(hào)將被平臺(tái)刪除或封停。


社區(qū)準(zhǔn)則具體到如“不可發(fā)布詆毀受害者的言論”或“不可發(fā)布有辱他人外貌、人格、身體的描述,或?qū)ζ溥M(jìn)行排名”,充分參考平臺(tái)過(guò)去發(fā)生爭(zhēng)議內(nèi)容,并與準(zhǔn)則的具體化實(shí)現(xiàn)強(qiáng)關(guān)聯(lián)。


Facebook平臺(tái)內(nèi)容細(xì)化準(zhǔn)則的目的,一在于詳細(xì)界定細(xì)微的內(nèi)容問(wèn)題,二在于鼓勵(lì)用戶、各界專家對(duì)平臺(tái)反饋,幫助平臺(tái)不斷完善平臺(tái)的指導(dǎo)方針,在內(nèi)容過(guò)濾和撤除時(shí)更有理可依。


經(jīng)過(guò)最新一輪的更新,除了發(fā)布社區(qū)準(zhǔn)則之外,內(nèi)容發(fā)布者還有了申訴的機(jī)會(huì)。多年來(lái),F(xiàn)acebook也誤判了許多正規(guī)內(nèi)容,例如撤下經(jīng)典雕像、越南戰(zhàn)爭(zhēng)中逃跑兒童等無(wú)傷大雅的照片; 如今被錯(cuò)判的申訴會(huì)在24小時(shí)內(nèi)被復(fù)審,據(jù)稱這一政策目前只針對(duì)部分含有裸露、色情、仇恨言論、暴力圖像展開,并仍在不斷延伸覆蓋的類型。



硅谷巨頭如何自我監(jiān)管?



2、歐洲通用數(shù)據(jù)保護(hù)條例(GDPR)下的自我監(jiān)督


2018年5月,歐洲通用數(shù)據(jù)保護(hù)條例(GDPR)正式生效,而在用戶數(shù)據(jù)泄露風(fēng)波中首當(dāng)其沖的Facebook決定——將把GDPR條例衍生之其他服務(wù)覆蓋的國(guó)家和地區(qū),監(jiān)督Instagram、Oculus、WhatsApp對(duì)GDPR的遵守,并就“透明度”、“控制”、“責(zé)任”三大方面做出承諾,在信息透明度上強(qiáng)化產(chǎn)品內(nèi)的提醒和用戶教育宣傳,在用戶控制上簡(jiǎn)化了用戶設(shè)定信息權(quán)限的流程,并提供更多賬戶安全自查的提醒; 同時(shí), Facebook承諾定期更新合規(guī)計(jì)劃,與世界各地的監(jiān)管機(jī)構(gòu)、司法機(jī)構(gòu)、專家學(xué)者會(huì)面,以尋求反饋。


6月,F(xiàn)acebook在投資者的壓力影響下,宣布加強(qiáng)管理層管理,提高公司審計(jì)委員會(huì)權(quán)利。


Facebook審計(jì)委員會(huì)主要負(fù)責(zé)監(jiān)控Facebook的社會(huì)影響、隱私保護(hù)措施和網(wǎng)絡(luò)安全風(fēng)險(xiǎn),目前該委員會(huì)由前白宮辦公廳主任厄斯金·鮑爾斯擔(dān)任主席。


經(jīng)歷劍橋數(shù)據(jù)風(fēng)波后,委員會(huì)增加了三項(xiàng)職責(zé),以至少每年一次的頻率對(duì)Facebook可能危害公共利益和安全的服務(wù)、隱私項(xiàng)目、網(wǎng)絡(luò)安全風(fēng)險(xiǎn)三大方面進(jìn)行評(píng)估,以此為投資者就“誰(shuí)對(duì)監(jiān)管隱私、社會(huì)影響、網(wǎng)絡(luò)安全和合規(guī)負(fù)最終責(zé)任”提供更清晰的認(rèn)識(shí)。



硅谷巨頭如何自我監(jiān)管?



3、“透明度舉報(bào)”平臺(tái)維護(hù)版權(quán)


侵權(quán)舉報(bào)和檢測(cè)工具“信息透明度舉報(bào)”管理團(tuán)隊(duì)將人工刪除涉及侵犯內(nèi)容版權(quán)(書籍、音樂(lè)、影視、藝術(shù)、文字、圖像)、商標(biāo)和涉嫌假冒偽劣的內(nèi)容,用戶可通過(guò)Facebook和Instagram的IP幫助中心填寫在線投訴表格,投訴交由Facebook的IP運(yùn)營(yíng)團(tuán)隊(duì)在一天之內(nèi)受理,重復(fù)侵權(quán)的賬號(hào)將被關(guān)停。


針對(duì)版權(quán)的工具類產(chǎn)品還有“版權(quán)管理員”(Rights Manager)以及 “商務(wù)&廣告IP工具”(Commerce& Ads IP Tool), 前者針對(duì)包括直播在內(nèi)的視頻內(nèi)容進(jìn)行相似性比對(duì),后者營(yíng)銷內(nèi)容篩選分類,幫助版權(quán)所有者舉報(bào)偽商標(biāo)和侵權(quán)的內(nèi)容。


4、 AI與算法結(jié)合人工審查


在國(guó)會(huì)聽證會(huì)上,扎克伯格在一小時(shí)內(nèi)提及AI三十余次,并堅(jiān)稱AI是平臺(tái)內(nèi)容監(jiān)管的答案“未來(lái)的五到十年,AI將成為世界上最大的社交網(wǎng)絡(luò)的捍衛(wèi)者,在全球范圍內(nèi)解決其最緊迫的危機(jī),同時(shí)也幫助公司回答有關(guān)審查、公平和人類無(wú)節(jié)制等棘手問(wèn)題?!?/span>


基于人工智能研究項(xiàng)目FAIR,F(xiàn)acebook官方稱, 就AI在Facebook內(nèi)容監(jiān)管上的應(yīng)用而言,圖像內(nèi)容審查方面,其物體識(shí)別技術(shù)(Object recognition)以含有數(shù)十億參數(shù)和數(shù)百萬(wàn)案例訓(xùn)練的神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)。


Facebook的產(chǎn)品經(jīng)理表示,涉及用戶安全的內(nèi)容(如帶有自殺、自殘傾向的視頻),F(xiàn)acebook的AI的監(jiān)測(cè)基于過(guò)去相關(guān)的直播和帖子收集數(shù)據(jù),審查中被識(shí)別并標(biāo)記的圖像,F(xiàn)acebook除了為用戶提供疏導(dǎo)視頻外,還會(huì)提供人工心理疏導(dǎo)服務(wù)邀請(qǐng),而在物體識(shí)別技術(shù)上的每一次進(jìn)步,都將意味Facebook Accessibility團(tuán)隊(duì)將技術(shù)的適用范圍擴(kuò)大”;


在文字審查方面,有“DeepText”(深度文本)引擎,據(jù)稱“能夠以近乎人類的精確度理解每秒數(shù)千篇文章的文本內(nèi)容,跨越20多種語(yǔ)言”,此前Deeptext除用于內(nèi)容個(gè)性化推薦外,還用于自動(dòng)清除垃圾郵件,幫助公眾人物將數(shù)百萬(wàn)條評(píng)論進(jìn)行分類,以查看最相關(guān)的評(píng)論,自動(dòng)識(shí)別銷售文章,提取相關(guān)信息,識(shí)別和顯示用戶可能感興趣的內(nèi)容。


但也有評(píng)論稱,盡管Facebook的AI技術(shù)取得一定成績(jī),但與目前AI技術(shù)的整體發(fā)展一樣,都面臨著三大難題:一、文字識(shí)別容易,語(yǔ)義理解任重道遠(yuǎn),對(duì)于虛假新聞監(jiān)測(cè)來(lái)說(shuō),聯(lián)系具體社會(huì)語(yǔ)境更是內(nèi)容鑒別關(guān)鍵; 二、這是一場(chǎng)與資本豐厚的對(duì)手之間的軍備競(jìng)賽,AI也不可避免的會(huì)在未來(lái)被用于制造出有目標(biāo)性、被優(yōu)化的虛假內(nèi)容; 三、視頻內(nèi)容檢測(cè)更為不易,建立可以捕捉虛假影像的系統(tǒng)難度巨大。


因此鑒于AI技術(shù)的局限性, Facebook聘請(qǐng)了一萬(wàn)五千名人工審查員配合監(jiān)測(cè)和刪除爭(zhēng)議內(nèi)容,在之前的分析中我們也提到,扎克伯克宣布于今年年底前新增五千人,輔助內(nèi)容篩查。



硅谷巨頭如何自我監(jiān)管?



Facebook此前已有人工智能研究項(xiàng)目(FAIR),并也持續(xù)邀請(qǐng)?jiān)跈C(jī)器學(xué)習(xí)、醫(yī)療保健、游戲、對(duì)話類介質(zhì)算法開發(fā)方面頗具經(jīng)驗(yàn)的人才,對(duì)實(shí)驗(yàn)室進(jìn)行管理,同時(shí)和麥吉爾大學(xué),蒙特利爾大學(xué)等多所高校保持聯(lián)合開發(fā)的密切關(guān)系,今年7月,F(xiàn)AIR又傳出多位教授加盟的消息,目前在全球Facebook 已有7所AI研究實(shí)驗(yàn)室。


UGC如何自我監(jiān)管-YouTube


對(duì)于YouTube來(lái)說(shuō),UGC視頻內(nèi)容構(gòu)成了平臺(tái)內(nèi)容的絕大部分,這也間接說(shuō)明,面對(duì)內(nèi)容把控,YouTube的監(jiān)管總體要比其他網(wǎng)站難度更大,(既從視頻內(nèi)容審查的難度和工作量上說(shuō),又從UGC名人可能引發(fā)的負(fù)面連鎖效應(yīng)上考慮)。


1、 YouTube社區(qū)準(zhǔn)則


在YouTube開啟UGC內(nèi)容時(shí)代后不久,美國(guó)頒布了兩項(xiàng)針對(duì)UGC內(nèi)容發(fā)布的法案——千禧年數(shù)字版權(quán)法(DCMA)和《通行內(nèi)容端正法案(第230節(jié)》(CDA),使平臺(tái)圍繞版權(quán)進(jìn)行了一次“大清洗”。


自2008年起,YouTube 針對(duì)平臺(tái)內(nèi)容政策作出了一次巨大調(diào)整,對(duì)違反社群準(zhǔn)則的行為明確制定了“三振出局”(非版權(quán)相關(guān)的)的規(guī)則。首次違反的用戶將有6個(gè)月的觀察期使違規(guī)記錄注銷,平臺(tái)在兩年后設(shè)定申訴流程,自認(rèn)為被誤判的用戶可以要求復(fù)審,由此,YouTube正式確立了自身作為“內(nèi)容適當(dāng)性”仲裁者的角色。


與Facebook相似, 目前YouTube對(duì)違規(guī)內(nèi)容的界定主要包括裸露或色情內(nèi)容、危害性和危險(xiǎn)內(nèi)容、宣揚(yáng)仇恨的內(nèi)容、暴力或過(guò)度寫實(shí)性內(nèi)容、騷擾和網(wǎng)路霸凌、誤導(dǎo)性詐騙內(nèi)容、隱私侵犯內(nèi)容、侵權(quán)內(nèi)容、冒充他人、危及未成年人安全的內(nèi)容。



硅谷巨頭如何自我監(jiān)管?


2.持續(xù)提高與UGC內(nèi)容創(chuàng)作者合作的門檻(Demonitization Policy)


從年初的YouTube網(wǎng)紅發(fā)布日本自殺森林尸體視頻,到屢次出現(xiàn)的虐童和暴力相關(guān)自頻道爭(zhēng)議,YouTube與UGC內(nèi)容創(chuàng)作者的的合作伙伴計(jì)劃(Partner Program)也提高了門檻,篩除了較新、規(guī)模較小的內(nèi)容創(chuàng)作者。

自2月起,只有在過(guò)去12個(gè)月內(nèi)擁有至少1000名訂閱者和4000小時(shí)觀看時(shí)長(zhǎng)的UGC頻道才有貨幣化的可能,此外YouTube對(duì)于接受廣告贊助UGC內(nèi)容限制也變得更嚴(yán)格,即使?jié)M足了相應(yīng)的門檻,過(guò)度植入廣告的內(nèi)容創(chuàng)作者獲得的收入也較過(guò)去減少。


3、AI、算法與人工審核 (Google)


依附于谷歌的YouTube以基于深度學(xué)習(xí)技術(shù)的Google Brain作為支持,Google Brian擁有一個(gè)收集用戶信息(如觀看歷史和用戶反饋)的神經(jīng)網(wǎng)絡(luò), 以及一個(gè)用于對(duì)所顯示部分視頻進(jìn)行排列的神經(jīng)網(wǎng)絡(luò),通過(guò)引入機(jī)器學(xué)習(xí)工具,自動(dòng)標(biāo)記暴力極端主義視頻,并將違規(guī)內(nèi)容報(bào)告給人工審查員進(jìn)行驗(yàn)證。


YouTube的內(nèi)容審查系統(tǒng)名為“Content ID”,會(huì)監(jiān)測(cè)并直接下架涉及版權(quán)、暴力等違規(guī)內(nèi)容。據(jù)稱,AI內(nèi)容監(jiān)測(cè)也獲得了顯著的成效,以2017年Q4為例,平臺(tái)刪除了800萬(wàn)條“令人反感”的視頻,有670萬(wàn)條都由監(jiān)測(cè)軟件自動(dòng)標(biāo)記,大約75%被標(biāo)記的視頻在被用戶觀看之前就被下架。


與Facebook類似,YouTube的AI標(biāo)記與識(shí)別技術(shù)也并不完美,例如2017年,英國(guó)政府和一些廣告公司發(fā)現(xiàn)自己的廣告被放在極端主義視頻旁邊,許多知名廣告主宣布撤下YouTube廣告。


今年,YouTube CEO蘇珊·沃西基也承諾雇傭一萬(wàn)名人工審核員補(bǔ)足算法的局限,并在輿論壓力下就員工權(quán)利規(guī)定每位審核員觀看違規(guī)視頻的上限為4小時(shí),以保護(hù)其心理健康。


4、賬號(hào)限制


針對(duì)賬號(hào)有“活躍度”和“年齡”兩大限制。至少6個(gè)月未登錄、從未上傳、從不參與視頻互動(dòng)(點(diǎn)贊、評(píng)論、收藏、關(guān)注)的賬號(hào),平臺(tái)有權(quán)收回。

YouTube也在保證一定言論自由的同時(shí),對(duì)含有露骨言論和畫面的內(nèi)容采取了“分級(jí)制”, 不同國(guó)家地區(qū)的用戶,YouTube會(huì)參照用戶所在地的法律法規(guī),對(duì)觀看和平臺(tái)付費(fèi)權(quán)設(shè)定不同的年齡限制,例如歐洲大部分國(guó)家用戶需年滿16歲收看部分內(nèi)容, 北美用戶需年滿13歲收看部分內(nèi)容等。


5、爭(zhēng)議內(nèi)容標(biāo)注


今年3月,YouTube的CEO蘇珊·沃西基表示YouTube與維基百科合作,在涉嫌陰謀論相關(guān)的視頻旁邊附上維基百科文本鏈接,對(duì)爭(zhēng)議內(nèi)容加以標(biāo)注;7月,YouTube將信息查證進(jìn)一步延伸,在爭(zhēng)議視頻頁(yè)面信息欄中納入更多Google News的權(quán)威報(bào)道鏈接,并在突發(fā)事件發(fā)生時(shí)優(yōu)先顯示權(quán)威新聞來(lái)源的視頻,幫助高品質(zhì)新聞更高效觸達(dá)用戶。


其他提升自我監(jiān)管力的通道-提高新聞比重


1、扶持權(quán)威新聞內(nèi)容


假新聞事件后,F(xiàn)acebook試圖借新聞內(nèi)容挽回22億用戶的信任,提出了新聞?dòng)?jì)劃(Facebook Journalism project),支持權(quán)威新聞內(nèi)容的辨識(shí)和發(fā)布。


新聞?dòng)?jì)劃主要包含四大部分:一、對(duì)新聞來(lái)源和可信度添加標(biāo)注,便于用戶鑒別新聞可靠性;二、提升新聞內(nèi)容貨幣化留住權(quán)威新聞出版商,在移動(dòng)端應(yīng)用上為新聞內(nèi)容添加訂閱、付費(fèi)閱讀功能;三、提升本地新聞內(nèi)容的曝光度,與美國(guó)6個(gè)城市的當(dāng)?shù)毓残侣剻C(jī)構(gòu)推行“Today in +地名”的新聞推送,手動(dòng)篩選、審查、授權(quán),將虛假內(nèi)容比重降到最低;四、提升新聞?lì)愐曨l的比重,在Watch平臺(tái)上推出新的新聞內(nèi)容專區(qū),加入長(zhǎng)度至少在3分鐘的時(shí)效性新聞視頻,促進(jìn)更有意義的用戶互動(dòng)。


相似地,谷歌也針對(duì)新聞內(nèi)容設(shè)立了“Google News Initiative”,用3億美元扶持權(quán)威新聞機(jī)構(gòu)并鼓勵(lì)對(duì)新聞視頻產(chǎn)品的打造,計(jì)劃在未來(lái)3年里提升新聞品質(zhì)病幫助權(quán)威新聞機(jī)構(gòu)為用戶提供更穩(wěn)定可靠的新聞內(nèi)容輸出。


最終新聞內(nèi)容能否幫助正規(guī)內(nèi)容養(yǎng)成還有待觀察,例如Facebook就與新聞出版商們的關(guān)系一直變化無(wú)常,先是Newsfeed 內(nèi)容推薦算法改變突出親友內(nèi)容導(dǎo)致新聞內(nèi)容占比下降,后是與CNN、華爾街日?qǐng)?bào)、紐約時(shí)報(bào)等頭部出版商簽訂直播授權(quán)卻提前毀約,使得新聞機(jī)構(gòu)對(duì)與Facebook合作仍持保留態(tài)度。



硅谷巨頭如何自我監(jiān)管?



兒童內(nèi)容管理和過(guò)濾-童鎖和定時(shí)器


童鎖、內(nèi)容加密、兒童版專用應(yīng)用程序、定時(shí)提醒都被普遍作為作為用戶保護(hù)手段,今年8月初,F(xiàn)acebook和Instagram加入了幫助用戶控制APP使用時(shí)間的新工具,防止用戶應(yīng)過(guò)度使用社交媒體而危機(jī)心理健康,據(jù)報(bào)道在未來(lái)幾周內(nèi),更新主頁(yè)將展示用戶使用的時(shí)長(zhǎng),平均使用時(shí)長(zhǎng),用戶可提前設(shè)置使用時(shí)限,系統(tǒng)將在使用時(shí)滿時(shí)提醒用戶。


4月,YouTube,針對(duì)面向兒童觀眾的專業(yè)版應(yīng)用YouTube Kids更新了家長(zhǎng)管理權(quán)力,為監(jiān)護(hù)人提供更強(qiáng)大的工具套件,將內(nèi)容可視性的限制具體化,并投入更多的人工審核和資金支持。


Copyright ? 2005 - 2013 上海青野文化傳媒有限公司
犀牛云提供企業(yè)云服務(wù)


X
1

QQ設(shè)置

3

SKYPE 設(shè)置

4

阿里旺旺設(shè)置

5

電話號(hào)碼管理

  • 18101767197
6

二維碼管理

返回頂部
展開