校園數字安全管理平臺成“雙刃劍”,學生安全與自由難兩全?
(昨日教育行業熱詞)
導語
你有沒有感覺自己被監視過?
8月,美國有超過5000萬K-12階段的學生返校。對其中很多使用學校電腦的學生來說,他們在電腦上輸入的每一個字都會被追蹤。
在《兒童網際網路保護法》(CIPA)的管控下,任何獲得聯邦經費的美國學校,都被要求設立網際網路安全政策。當學校配備平板電腦和Chromebook膝上型電腦越來越司空見慣,學校必須採取技術性防護措施,以保證學生的安全。對於一些學校來說,這僅僅意味著遮蔽不合適的網站。而另一些學校,則將目光轉向了Gaggle、 curly" target="_blank" rel="nofollow,noindex">Securly 以及GoGuardian等軟體公司,幫助學校管理者發現可能造成危險的通訊內容。
這些安全管理平臺(SMPs)使用自然語言處理來掃描學校電腦上錄入的幾百萬個詞語。如果一個詞或一條短語可能暗示了霸凌或自殘行為,平臺就會提交給人工團隊進行審閱。
如今,校園大規模槍擊和學生自殺事件屢屢發生,在此背景下,安全管理平臺起到了重要的預防傷害作用。這些企業都做過攔截資訊挽救生命的案例研究。但是這類軟體也引發了關於保護學生安全和其隱私之間界線的道德考量。
致力於推動兒童網路安全教育的非營利機構Common Sense Media的隱私檢查主管Girard Kelly告訴Quartz,“誠信監督學生的方式在不斷進步,直到教室裡安了一些監控裝置。”Kelly認為,“學校不僅有金屬探測器和攝像頭,現在學生的學習計劃和郵件也能被追蹤。”
微軟安全管理平臺的討論,涵蓋了兩個引起全國關注並密不可分的話題——保護學校和保護資料。隨著越來越多的學校開始給每個學生髮放一臺屬於自己的裝置,在數字世界中保護學生的需求也日益增加。過半的教師表示,他們的學校就是這樣“一人一裝置”的模式。根據Freckle Education在2017年的調查,這意味著有巨大的市場規模亟待挖掘。
但即使在學生自殺和學校槍擊事件頻出的時代,安全防範措施從何時開始侵犯了學生的自由呢?
1 保護學生安全
最受歡迎的幾個安全管理平臺在執行上有細微的不同。Gaggle每年收取每位學生約5美元的費用,對Google Docs和Gmail等常用工具進行過濾。當Gaggle的演算法發現一些值得注意的詞句——比如提到藥物或有網路暴力的跡象時——這些“事件”將先發給人工審閱,然後再遞交給學校。 Securly比各種教室工具更進一步,讓學校可以針對學生們在社交媒體上的發帖進行情緒分析。通過使用AI技術,軟體可以分析數千則學生的推特訊息、帖子和狀態的更新,以發現傷害的跡象。
Kelly認為,安全管理平臺讓人們在年幼時就習慣了監控的存在。他說,在Facebook的劍橋分析醜聞剛剛被揭露,以及Equifax等其它公司的資料洩露事件發生時,我們有機會教孩子們保護自己網路資料的重要性。
Daphne Keller是斯坦福網路和社會中心的主管(也是兩個孩子的媽媽),她告訴Quartz:“在這些軟體如何運作的問題上,應該有一整套度量標準。我們應該可以在其中進行選擇,在安全和監控之間保持平衡,而不是強迫孩子們在沒有任何控制權的前提下洩露自己的資料。”
誠然,在學校暴力、霸凌和抑鬱狀況大幅增加的今天,學校有義務保護自己的學生。但是對孩子個人資訊的保護也關乎他們的安全。作為Securly的CEO,Vinay Mahadik認同隱私是一件非常重要的事,但他相信,和Securly同類的企業能夠在自由和監控之間保持正確的平衡。
“我們現在討論對孩子進行監控,不是每個人都喜聞樂見。”Mahadik對Quartz說道,“但總的來說,大家都認同必須找到一個保護孩子們安全的辦法。我們在兩者之間小心翼翼。”
2 簽署知情同意書
Keller這樣的批評者相信,數字監控可能會對學生們的自由表達產生負面影響。如果學生知道他們正在被監視,他們可能會在說出自己心中想法前,先進行自我審查。當然,這些只有當學生們知道自己正在被監視時才會發生。
根據Patterson,即使大多數學區要求家長簽署關於在教室中使用技術手段的知情同意書,一些學區仍認為,如果學生們沒注意到這些軟體,他們會得到更具有代表性的行為描述。換句話說,一些學區不會讓孩子們知道自己正在被追蹤。
Bill Fitzgerald長期擔任學校的技術主管,目前為學校和非營利性機構提供隱私方面的諮詢,他向Quartz表示,“家長同意書會成為監控軟體供應商們逃脫牢獄之災的免死金牌。如果一位家長在學年初就同意了各種教育科技工具的條款,第三方就真的需要處理一下這種情況了”。
安全管理平臺的營銷,針對的是家長和學校最深切的恐懼。“這可能是成年人瞭解學生痛苦的唯一途徑。”Securly的網站上這樣寫著。在此之前是一段密歇根公立學校IT主管的話:“光是避免年輕人傷害自己或其他人,就抵得上訂閱價格的上千倍。”
Gaggle則走得更遠。不僅用安全管理平臺幫學校監視學生,同款軟體還可以用來監視教師。“想想最近在西弗吉尼亞的教師罷工,”一篇最近的部落格文章裡這麼寫著,“如果那裡的學校領導幾個月前就要求得到‘醫保’和‘罷工’的搜尋結果,這個故事會有所不同嗎?偶爾對‘工資’或’裁員’進行搜尋,可以消除員工們的擔心,避免您的學區出現負面新聞。”(這家公司後來撤下了文章。在一封郵件裡,Patterson告訴Quartz,這與Gaggle致力於“保證學生、學校的安全和幸福”的目標並不一致。)
防止負面媒體報道和教師罷工,這些和保障學生安全並沒有太大關係。但是暗含的資訊卻很明確:Gaggle的客戶是學校的管理者,而不是學生或老師。
但問題是,對於學生的保護是以犧牲其隱私為代價。孩子們在成長過程中在網路上花費了大量時間,他們也需要安全的數字環境來探索自身。
“假設你是一個想要自殺的孩子,你想在日記裡寫一些與此有關的事,或者告訴朋友們你現在的感受,但是你沒有這麼做,因為你害怕爸媽知道,”Keller說,“我不確定這樣的結果會比較好。”
Keller相信,在兒童年幼的時候就開始監控他們的行為會是個危險的先例。當成年人在認真考慮隱私和資料保護的時候,她相信孩子們也必須認識到,授予公司擁有自己個人資訊的許可權究竟意味著什麼。
Liz Kline是一位加州的家長,她告訴Quartz:“我很擔心自己的孩子,在收到學區提供的裝置時,究竟對他選擇同意的事情理解多少。他現在六歲,還沒太大問題,但是如果他上了高中,想要來一次離家出走呢?”
本文來源:https://qz.com
原作者:Simone Stolzoff
編譯:鯨媒體Joey