兒童性虐待素材（CSAM）的是大型互聯網公司的頭等大事。但對于前線審核人員來說，識別并刪除虐待內容是一項艱巨而悲慘的工作。這就是谷歌發布這款免費人工智能軟件的原因。

　　此前，該領域的大多數技術解決方案都是通過對照以前識別的虐待材料目錄檢查圖像和視頻來實現的（例如：PhotoDNA，由 Microsoft 開發， Facebook 和 Twitter 等公司采用的工具。）。這種被稱為“爬蟲”的軟件是打擊共享已知的、先前已被識別的 CSAM 的有效方法。但它有一個缺點，就是無法捕獲尚未被標記為非法的材料。因此，人類審核人員必須介入審查內容。谷歌的這個 AI 工具與之前已經出現的 AI 鑒黃系統有所不同，它可以做到捕獲尚未被標記為非法的兒童性虐待材料，因此能夠實現更好的識別效果。

　　而且，利用谷歌在機器視覺方面的專業知識，這個 AI 工具通過對標記的圖像和視頻進行排序并“優先將最有可能的 CSAM 內容挑選出來供審查”。這會使得審查過程 大大加快。谷歌表示，在一項試驗中，人工智能工具幫助審核人員“在相同時長內處理的 CSAM 內容增加了 700%。”

　　如果能夠更快速地識別新圖像，意味著現在正在待的兒童可能被更快地識別出來并起來。

　　互聯網觀察基金會（IWF）副首席執行官 Fred Langford 表示，該軟件將幫助審核團隊更有效地部署有限的資源，輔助人類審核員進行分類。

　　IWF 是致力于 CSAM 在線的最大組織之一。它位于英國，包括谷歌在內的大型國際科技公司為其提供資金。IWF 聘請了人類審核團隊來識別虐待圖像，在十幾個國家運營用戶舉報網絡，并開展調查，與執法機構合作打擊共享 CSAM 的網站。

　　Langford 表示，由于現在人們“對人工智能充滿不切實際的幻想”，IWF 將徹底測試谷歌新的人工智能工具，以了解其適應工作流程的程度。他補充說，此類工具是邁向全自動系統的一步，在無人類干預的情況下識別以前未見過的材料。 “那種分類器就像舞臺上的圣杯一樣。”

　　但是，他補充說，這些工具應該只在有“清晰”的場景下使用，以避免虐待材料被遺漏。“幾年前我會說那種分類器出現還需要五六年，”Langford 說道，“但現在我認為，在某些場景中，我們只需要一至兩年時間就可以創建完全自動化的分類器。”

　　谷歌采取此舉的背景，是這家互聯網巨頭因未違規者在網絡上 CSAM 而面臨越來越大的爭議。上周，英國外交大臣杰里米·亨特（Jeremy Hunt）發推，谷歌既然可以為中國提供經審查的搜索引擎，為什么不能刪除網絡上其他地區的兒童虐待內容。

　　看來谷歌正在考慮審查其進入中國的內容，但卻不會與英國、美國和其他 5 個國家合作刪除虐待兒童的內容，這似乎不同尋常。過去他們曾為自己的價值觀而自豪......

　　早些時候，英國內政大臣薩吉德·賈維德（Sajid Javid）發起了一項新的“行動呼吁”，作為推動谷歌和 Facebook 等科技公司采取更多措施打擊在線兒童性虐待行為的一部分。在國家犯罪署（NCA）的最新數據顯示英國有多達 8 萬人可能對網絡上公布的兒童構成之后，該計劃得以實施。

　　由于互聯網的普及，網絡，尤其是社交網絡，成為滋生 戀童癖、兒童性虐待等非法內容的“溫床”，在這里形成的黑色產業鏈遠比大眾想象的更加龐大，被的程度以及相關調查報告的數量，也比想象中少很多。

　　雖然這個群體近年來遭到警方和非營利組織的，但卻并沒有從此消失。比如 2017 年曾被過 戀童癖的微 V 許豪杰，5 月份又被曝重回社交。

　　當時，許在微博上擁有超過 50 萬粉絲，其制作的一系列視頻也曾廣為。其開設的網站、貼吧后被警方查封。

　　在兒童性虐待背后，這條的產業鏈并沒有被徹底清除，而驅動力量正是暴利。以下是一些對 戀童癖調查報道的標題，可以看出這是一個暴利的產業：

　　實際上，兒童性虐待發生的普遍程度，也可能遠超你的想象。根據世界衛生組織（WHO, 2016）的調查，在成年人中，每 5 個女性和每 13 個男性中，就有 1 人表示自己曾經遭受過性虐待。其中 34% 的受到性虐待的孩子不滿 12 歲（衛生部, 2014）。另外，根據聯合國兒童基金會 2017 年的一份報告，全球為數眾多的兒童（甚至包括年齡低至一歲的嬰幼兒）正在遭受，且者往往是他們的養護人。在全球，約有 1500 萬 15 到 19 歲的青春期女童曾被 或發生其他形式的性行為。

　　另外，根據彭淋等人（2013）對 2000-2013 年間對兒童性虐待研究的回顧（N=16682），在中國，在兒童時期遭受過性虐待的人高達 18.2%（注：在該研究中性虐待指的是無論兒童是否愿意，任何人在任何地方對兒童直接或間接做出的性利用或 性）。每五個中國孩子中，就有一個遭受過不同程度的性虐待。很多人可能都認為，“性虐待”意味著身體上的，這也使得一些社會新聞到了。但實際上，兒童性虐待不僅僅指“ 猥褻”或“ ”，一些與孩子年齡不符的、發生的與性相關的活動，無論孩子是否愿意，都是對兒童的性虐待，它有時并不“需要”施虐者與者之間發生實質的肢體接觸。

　　谷歌此次推出的用于識別兒童性虐待 AI 工具，可以幫助人類審核人員更快速高效地識別相關內容，還可以解決此前 AI 識別系統普遍缺乏的識別未標記內容的問題。對于審核人員來說，此應用的作用小編深有體會，因為出于調查需要，點開的若干網頁內容已經引起了小編強烈的心理和生理不適。如果這個 AI 工具的效果真如資料所寫，倒不失為一個功德的應用。