被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘

少年商學院 閱讀 09-12 7631 0
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
文 | 水滴
兩個孩子的媽媽，青少年心理咨詢師
少年商學院國際教育專欄作者
9月新學期剛開始沒幾天，南京某大學上了熱搜。因為率先在校內(nèi)試點安裝人臉識別技術，繼而在采集學生數(shù)據(jù)和是否侵犯學生隱私的問題上引發(fā)了人們的關注和熱議。
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
面對此事，近日教育部科學技術司司長雷朝滋，在接受某新聞媒體采訪時表示：學校要謹慎使用人臉識別技術。雷司長的話一錘定音，表明了教育部門對此技術的謹慎態(tài)度。
當然，謹慎操作不代表不發(fā)展。任何一個新技術剛剛降臨時，都會面對質(zhì)疑和支持兩種態(tài)度?，F(xiàn)在誰離得開汽車、電腦？我們又為什么要決絕地阻擋人工智能的普及呢？何況，我們阻擋得了么？
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
面對“來勢洶洶”的人臉識別技術，我們真正該關注的焦點是，技術為誰所用，使用的目的和使用的手段。技術是無辜的，作為技術使用者的人，“有所為，有所不為”方是問題的根本。
?
對比國外學校在人臉識別技術上的差別，今天我和大家大概說說，為什么人臉識別技術在學校使用要謹慎操作？
?
人臉識別技術用于學校時必須得謹慎
在美國，近幾年來人臉識別技術得以在部分學校進行試點。隨后，因技術和倫理道德上的考慮，并基于巨大的社會壓力，被一一叫停。有某州政府今年初已經(jīng)立法禁止人臉識別技術在該州學校使用：除非得到學生、家長和教育部門的同意，否則人臉識別技術不得在校園推廣——這是來自美國的“謹慎”。
?
在澳洲，人臉識別技術公司looplearn得到了政府的資金支持，可以在學校使用人臉識別技術，在這些學校，人臉識別技術主要用于老師點名，了解學生出勤情況。但是這個看起來“單一”的功能依然因為其具有明顯的商業(yè)前景，引發(fā)了人們的擔憂和反對。
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
另外有研究者擔心：因為在識別技術上尚不成熟，在區(qū)分有色人種時人臉識別技術會花更多的時間，并有可能錯認，從而引發(fā)新的“種族歧視”問題——因為相較于有色人種，白人更容易被識別。
?
而在歐洲，歐盟成員國正在積極地尋求人臉識別技術上的新規(guī)定。不知道是不是愛遵守規(guī)定的緣故，前不久瑞典有關部門剛剛處罰了一個高中19000歐元。因為該校在去年未經(jīng)學生的同意就采集了22名學生的臉部信息。歐洲媒體在報道此事時，“夸張”地運用了“難以置信”學校的違法行為和當局處罰實在“輕微”等字眼，理由是按照該法條，最高的罰款額可是100萬歐元吶！
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
我所處的愛爾蘭，雖然有著歐洲硅谷的美譽，人臉識別技術在愛爾蘭的學校存在可幾乎是0。至于為什么說是“幾乎”呢？因為在學生使用的智能手機里，比如說像FACEBOOK這些app里還是有人臉識別技術的，歐盟一直在試圖控制這些社交軟件對隱私的侵犯。
當然，智能手機里的人臉識別技術是另外一個話題了，我們今天討論的是，在學校使用人臉識別是否會侵害孩子們的隱私？
?
在愛爾蘭學校
孩子的形象信息需家長授權
孩子有隱私么？不好意思，我說了一個偽命題。因為但凡是人就都有隱私。在愛爾蘭，當一個孩子進入幼兒園、學校時，家長都會被提示隱私安全和網(wǎng)絡安全。比如我女兒在幼兒園和夏令營參加活動時，校方會讓父母授權是否可以拍攝孩子。
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
剛開始老母親對此很不適應，心想：不就“喀嚓”一個照片么？可是后來想，這個照片拍了是為啥呢？無疑是用在商業(yè)用途上，比如廣告等。那作為這些小小肖像所有權人的監(jiān)護人，家長當然需要知情并做出決定。學校得到家長的許可，才可以合理使用這些照片。如果你不同意，也沒關系，學校會避免采集孩子的形象。
?
一句話，愛爾蘭學校里孩子們的私人形象，如果學校想“有所為“一定是要有授權、有依據(jù)的。
?
用人臉識別技術監(jiān)控孩子的行為
難以反映真實的學習效果
過度使用人臉識別技術會讓家長擔心：我的孩子需要的是同理心和愛，請不要隨意刺探，還把他們當機器喲！
在美國或者澳洲學校推行人臉識別試驗時，支持方的理由是：
1. 幫助校方排除可能危及學生安全的人員入校，比如已被開除的不良學生或罪犯等。尤其在全球恐怖襲擊連連的西方世界，說這個理由似乎可以很大程度上安撫父母的擔心；
2. 幫助老師管理大課堂，節(jié)省時間，提高管理效率。如果一個班級人數(shù)眾多，老師是沒可能用傳統(tǒng)的方式點名的，人臉識別技術無疑大大節(jié)省了人力。
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
而反對方的理由則十分的“情懷牌”：孩子不是機器，應該被當人來看。
在澳洲人臉識別新聞的評論中，有網(wǎng)友就表示，這項技術一旦不加節(jié)制地推行，將是政客樂于見到的“政績”，也是產(chǎn)品公司巴不得的巨大商業(yè)利益?？墒菍τ诩议L而言，除了干巴巴地知道自己的孩子是否出勤、是否聽課外，什么也得不到。
?
因為孩子在這些行為背后的原因是什么？這是AI無法告訴你的事。而一旦，有朝一日，當整個教育系統(tǒng)都把“行為”作為評判學生好壞的唯一標準時，那么他們的內(nèi)心又有誰會去費勁兒了解呢？
?
現(xiàn)在國內(nèi)學校試點的人臉識別技術，把孩子們低幾次頭，是否在看手機，走神等作為是否專心聽課的標準。這實際上已經(jīng)遠遠超過了歐美國家對于人臉識別技術使用的界限和想象：如果說人臉識別技術最早是為了公共安全的需要，那把低頭、小動作作為聽課指標的運用則顯得刻板、生硬且單一，確實有把人當機器之嫌。
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
近日，當我和我的鄰居，愛爾蘭一家專門負責學校軟硬件技術支持的公司COO聊到人臉技術時，他表示，人臉技術用來管理課堂確實是高效的。但是如果把學生打瞌睡、低頭等也作為指標是無意義的，因為這些指標不會告訴你孩子的真實情況，至少無法真實反映孩子的學習效果，也無法反映那些需要長期跟蹤才可以看到的結果。
而當我“腹黑”地表示，也許老師會用這些“開小差”的證據(jù)來批評學生時，他聳聳肩表示：如果僅僅用這個監(jiān)視學生還批評學生，那他就是壞老師！這個評價倒是很簡單粗暴，不知道同樣簡單地用低頭次數(shù)、面部表情來判斷孩子的人怎么想？
?
采集信息的規(guī)則應當是雙邊的
在人臉識別上，用途、具體方式、信息保護等都應當是建立在采集方和被采集方平權的基礎上。
?
而在本次事件中，該南京高校的發(fā)言人則表示，因為學校是公共場合，同時采集信息也可以作為改善教學質(zhì)量的依據(jù)，所以學校采集信息不屬于侵犯隱私。
?
且不說同樣是公眾場合，在大街上你也不能隨意拍攝他人。再說，你用拍學生走神的方式來判斷老師的教學質(zhì)量，這個方式得到學生同意了么？老師認可么？
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
難道說，改善教學質(zhì)量就真的沒有效率更高、更本質(zhì)、更經(jīng)濟、更安全的方式了么？現(xiàn)在不是花錢安設備就完了。后面的維護，以及被采集的信息如何管理，是否定期銷毀？校方是否跟進考慮了呢？
想到此不由得感嘆虧好自己生得早，否則自己當年在上“大學生修養(yǎng)”?之類的課時，低頭打個瞌睡的行為，放到現(xiàn)在被記錄了，都有可能要跟著我一輩子，那真是恐怖的事情……
有所為，有所不為
說到底是責任和界限的問題
現(xiàn)在很多家長都知道，面對自己生養(yǎng)的骨肉要慎言“為你好”三個字。學校何嘗不該如此？如果學校真的認為學習是學生的責任，那么就把這份責任交還給學生。曠課次數(shù)多了，學?？梢砸婪ㄌ幚恚@才是學校的責任。
?
我剛來愛爾蘭的第一年圣誕節(jié)放假，我?guī)Ш⒆踊貒燃佟Ｒ驗榉党虝r，遇國內(nèi)大雪航班延誤，我索性向?qū)W校多請了幾周假期。結果學校在準假后，又給我寄了信表示，因為我們請假過多，導致孩子缺課超過了教育部門規(guī)定的比例，所以他們必須向上級反映，同時讓我做好有可能向該部門解釋的準備。
?
孩子學校這種“大驚小怪”的做法其實還挺讓我理解的，因為這是他們保護未成年人受教育權利的證明。家長是否注重孩子的出勤率學校雖然管不著，但是當學生出勤率出現(xiàn)問題時，學?？梢砸婪▎酉嚓P程序。這是學校的“有所為”——不用家訪，不用約談，不用曉之以情動之以理的苦口婆心說“為你好”，只按章辦事，尊重了彼此，也盡到了本分。
?
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
而在大學，面對已經(jīng)成人的學生子，若他們無心向?qū)W，我們的學校還要用人臉識別技術“留得住人，留不住心”，這是何必，又是何苦呢？畢竟該讀書的時候不讀書，受損的是自己。
?
最后我想說個恐怖故事，那時我兒子幾年前剛在國內(nèi)讀一年級的時候有天和我說的：“媽媽，老師今天在課上對我們說，我們一出生，爸爸媽媽就放了一枚愛的芯片到我們身上。這樣一來，即使不在你們身邊，你們也可以隨時隨地看到我們。所以我們表現(xiàn)得要好，不能犯錯誤，因為你們都看得到！”
?
恐怖么？這份恐怖不是來自于那片尚不存在的芯片，而在于“因愛之名”。
 

發(fā)表評論