雖然互聯(lián)網(wǎng)改變了孩子們學(xué)習(xí)性知識(shí)的方式，但關(guān)于性知識(shí)的教學(xué)仍然很糟糕。在性教育 2.0中，Mashable探討了性教育的現(xiàn)狀，暢想未來(lái)數(shù)字創(chuàng)新技術(shù)可以用來(lái)教授性知識(shí)，比如允許發(fā)生性行為，性積極，尊重和責(zé)任。    

然而，計(jì)算機(jī)算法導(dǎo)致像油管，臉書(shū)以及蘋果公司的iOS平臺(tái)軟件面臨一個(gè)共同的挑戰(zhàn)：它們似乎無(wú)法保持一貫的區(qū)分能力，區(qū)別色情以及性知識(shí)和生殖健康內(nèi)容。

這是因?yàn)?，設(shè)計(jì)用于防止“成人”信息出現(xiàn)在時(shí)間軸或搜索結(jié)果中彈出的代碼，也很容易屏蔽那些旨在為互聯(lián)網(wǎng)用戶提供有關(guān)性、性興趣和性健康的真實(shí)教育信息。

批評(píng)者認(rèn)為，計(jì)算機(jī)算法混淆成人信息和性教育內(nèi)容的情況可能反映了編程懶惰而又臭名昭著的技術(shù)多樣性問(wèn)題。編寫代碼的工程師將裸露或色情內(nèi)容推向網(wǎng)絡(luò)的邊緣時(shí)，他們不了解、也不關(guān)心獲取性健康和生殖健康內(nèi)容的重要性，特別是對(duì)于少數(shù)青少年群體和其他歷史上被邊緣化的用戶，這樣的算法會(huì)阻礙信息的廣泛傳播。

批評(píng)者同時(shí)也認(rèn)為這個(gè)問(wèn)題有直接的解決方案，但科技公司對(duì)解決他們的擔(dān)憂并不感興趣。    

網(wǎng)絡(luò)性健康公司O.school在10月份報(bào)道了蘋果公司的新軟件如何啟用家長(zhǎng)控制設(shè)置的事件，這一報(bào)道不僅限制了其品牌網(wǎng)站的發(fā)展，還讓許多為青少年服務(wù)的娛樂(lè)網(wǎng)站和健康資源減少了。

雖然過(guò)濾器限制了像Teen Vogue和Scarleteen這樣的網(wǎng)站，但它并沒(méi)有拒絕用戶訪問(wèn)新納粹（neo-Nazi）Daily Stormer或反同性戀Westboro Baptist Church等網(wǎng)站。

圖片來(lái)源：維基·列塔/ Mashable

對(duì)比令人震驚，也讓O.school的創(chuàng)始人安德里亞·芭里卡（Andrea Barrica）相信，蘋果公司的算法可能僅僅是屏蔽某些特定詞匯，如“青少年”、“大規(guī)?！边@樣的詞，以防止任何可能會(huì)向用戶發(fā)送禁止內(nèi)容的點(diǎn)擊（比如“青少年色情”）。至今為此芭里卡都無(wú)法證實(shí)或消除她的懷疑，或者從蘋果公司的算法中得悉什么。   

芭里卡通過(guò)自己的網(wǎng)絡(luò)與蘋果公司的員工聯(lián)系，希望能夠討論一下這種情況，但卻石沉大海。之后，她在博客上發(fā)表了一篇名為“審查和性教育”的文章，對(duì)蘋果公司提出了尖銳的問(wèn)題：誰(shuí)設(shè)計(jì)了過(guò)濾器？是否咨詢過(guò)父母群體？保守派和宗教團(tuán)體呢？醫(yī)生和性教育者？什么非色情網(wǎng)站被封鎖？不過(guò)，她從沒(méi)收到蘋果公司的任何回應(yīng)。蘋果公司也沒(méi)有向Mashable評(píng)論其算法或芭里卡的帖子做出任何回應(yīng)。

“網(wǎng)站平臺(tái)并沒(méi)有針對(duì)性教育提出解決措施，他們只是以最保守的方式編寫代碼來(lái)避免違反政策的問(wèn)題，”芭里卡說(shuō)，“蘋果對(duì)性信息的保守態(tài)度會(huì)帶來(lái)巨大的影響?！?/p>

芭里卡不是唯一一個(gè)給平臺(tái)寫公開(kāi)信的人，且這個(gè)平臺(tái)還能控制她發(fā)的內(nèi)容是否能在網(wǎng)上看到。2017年5月，一位女性經(jīng)期跟蹤應(yīng)用Clue的作者，在博客中詳細(xì)介紹了臉書(shū)如何阻止該應(yīng)用的廣告提升其性和生殖健康內(nèi)容。以陰道，乳房和陰莖為特色的教育插圖被封鎖。關(guān)于內(nèi)衣，出生故事和青春期建議的推廣廣告也遭到屏蔽。   

Clue的一位代表表示，當(dāng)一個(gè)公司拒絕就此問(wèn)題發(fā)表評(píng)論時(shí)，該公司是停滯不前的。臉書(shū)發(fā)言人表示，Clue的廣告違反了其廣告政策中對(duì)“成人內(nèi)容”的限制，其中包括禁止包含裸露的廣告或關(guān)注個(gè)人身體部位的圖片。臉書(shū)的廣告政策適用于全球，甚至比社區(qū)標(biāo)準(zhǔn)更嚴(yán)格。然而Clue仍舊能在Facebook上發(fā)布內(nèi)容并做廣告。   

AMAZE是一個(gè)針對(duì)青少年的性教育視頻系列，在油管上打廣告也遇到了類似的問(wèn)題。自其渠道在近三年前推出以來(lái)，84個(gè)廣告中，有一些已被過(guò)濾了，因?yàn)檫@些廣告被視為“成人”內(nèi)容。而被過(guò)濾的視頻中包括關(guān)于女性和男性的生物解剖視頻。

“在油管上發(fā)布廣告對(duì)于我們?cè)贏MAZE的工作開(kāi)展至關(guān)重要，因?yàn)樗屛覀兡軌蚋采w到全世界尋求性，心理健康等方面指導(dǎo)的年輕人，”AMAZE發(fā)言人林肯蒙迪（Lincoln Mondy）在電子郵件中說(shuō)道。

雖然AMAZE沒(méi)有被視為成人內(nèi)容，但其視頻確實(shí)包括了對(duì)生殖器的準(zhǔn)確描述和性健康的討論。這種不加修飾的展示有時(shí)通過(guò)圖形表現(xiàn)，而這很可能會(huì)被計(jì)算機(jī)算法和審查員認(rèn)為違反了平臺(tái)政策中禁止宣傳“非家庭安全”的成人內(nèi)容的條例。油管拒絕評(píng)論為其算法提供信息的政策和做法。

科技公司可能會(huì)爭(zhēng)辯說(shuō)，他們的算法實(shí)際上是通過(guò)標(biāo)記違反其政策的內(nèi)容來(lái)設(shè)計(jì)的。 但事實(shí)是，在教育目的下對(duì)乳房的良性說(shuō)明令人反感的這一事實(shí)會(huì)引發(fā)更大的問(wèn)題。   

工程師和科技公司面臨的部分挑戰(zhàn)是，現(xiàn)在為互聯(lián)網(wǎng)生產(chǎn)的性健康材料，通常沒(méi)有傳統(tǒng)上談?wù)撔杂嘘P(guān)的信息時(shí)那般避諱。這些新一代的內(nèi)容提出并回答了可能令人尷尬的問(wèn)題，而非扮演那些使用模糊術(shù)語(yǔ)和說(shuō)明的沉默的解釋器，解決了邊緣化讀者的各種擔(dān)憂，并且不避開(kāi)使用生殖器的準(zhǔn)確描述，讓曾經(jīng)令人尷尬的談話聽(tīng)起來(lái)有趣還受益匪淺。

因此，那些沒(méi)有關(guān)注這一趨勢(shì)，或者甚至沒(méi)有意識(shí)到這種趨勢(shì)的工程師，在編寫代碼過(guò)程中很可能會(huì)將敏感詞和圖片當(dāng)作涉及色情內(nèi)容的危險(xiǎn)內(nèi)容。

“其中一個(gè)動(dòng)因是他們根本不考慮這種情況，”作為O.school的顧問(wèn)軟件工程師兼企業(yè)家喬恩·平卡斯（Jon Pincus）說(shuō)。“無(wú)論是懶惰還是過(guò)度簡(jiǎn)化，我猜工程師們?cè)谶^(guò)濾掉這些東西時(shí)，實(shí)際上并沒(méi)有試圖衡量自身是否允許合法‘性知識(shí)和生殖健康’的東西?！?/p>

平卡斯說(shuō)，設(shè)計(jì)比現(xiàn)在表現(xiàn)更好的算法并不難。工程師和使用算法的公司可以將公平性，問(wèn)責(zé)制和透明度作為指導(dǎo)原則，特別是因?yàn)樵诰€提供準(zhǔn)確的性信息是一個(gè)公共衛(wèi)生問(wèn)題。

理想情況下，使用計(jì)算機(jī)學(xué)習(xí)算法的公司會(huì)用文字，圖片描述正當(dāng)?shù)膬尚孕畔ⅲ闷淇梢越邮艿纳辰】敌畔?，以及不能接受的成人?nèi)容或色情內(nèi)容，對(duì)員工進(jìn)行培訓(xùn)。

不止這種明智的做法，平卡斯認(rèn)為，技術(shù)公司可以邀請(qǐng)性和生殖健康專家提供有關(guān)如何設(shè)計(jì)算法的反饋，甚至雇用他們進(jìn)行咨詢。據(jù)他透露，工作人員中沒(méi)有相關(guān)主題的專家，這是行業(yè)中的普遍現(xiàn)象。  

AMAZE的曼迪同意這種做法?！皩?duì)我們來(lái)說(shuō)，唯一的解決方案牽扯到技術(shù)巨頭和性健康專家的意向合作關(guān)系，他們什么時(shí)候能共同創(chuàng)建算法和內(nèi)容攔截器，”他說(shuō)，“科技巨頭不是性健康專家，在涉及篩選在線信息時(shí)，不應(yīng)該對(duì)什么是'適合年齡’作出重要決定?！?nbsp;  

然而，這些科技公司不愿放棄這種權(quán)力，并讓外界對(duì)其產(chǎn)品施加影響。上周，Tumblr宣布將禁止成人內(nèi)容時(shí)，該公司的一位發(fā)言人拒絕解釋其算法和審核員將性知識(shí)與裸體或色情內(nèi)容區(qū)分開(kāi)來(lái)的標(biāo)準(zhǔn)，而是指出“與健康有關(guān)的信息”仍然可以在平臺(tái)上搜尋得到。

雖然抗拒透明化讓硅谷的殘忍競(jìng)爭(zhēng)合情合理，但芭里卡認(rèn)為科技公司沒(méi)有動(dòng)機(jī)去編寫更加細(xì)致入微的算法來(lái)危及重要的廣告宣傳，或蘋果應(yīng)用商店中的任意軟件，雖然這樣細(xì)致的算法可以最大限度地獲取性知識(shí)和生殖健康信息，但很可能因?yàn)檫^(guò)于細(xì)致讓色情內(nèi)容有機(jī)可乘。

“真的太恐怖了，”她說(shuō)。“這種做法可以追溯回人類對(duì)性缺乏包容性和多樣性，還會(huì)回到人類對(duì)性的羞恥感?！?/p>

“這個(gè)世界上有太多的力量來(lái)控制人們的所思所想了?！?/p>

譯文出處：

Mashable. Internet gatekeepers block sex ed content because algorithms think they're porn.

https:///article/sex-ed-blocked-porn-algorithms/#jVO94dXvEOqz.（2018-12-12）

翻譯 | 陳寶華

校對(duì) | 郭慧

編輯 | 蔡雁紅