根據調查顯示，以自然語言處理為基礎的人工智慧論文評分系統，至少已經被美國的 21 個州正式引入到正式考試的評分工作當中。

而且，月圓的不僅僅只有國外，我國的「機器評卷員」也早已經投入到考場中。

早在 2016 年，我國教育考試中心就和科大訊飛成立了聯合實驗室，共同開展人工智慧技術在閱卷、命題、考試評價分析等方面的研究。而且在 2017 年，湖北襄陽就已經正式在中考評卷工作中引入了該機器評分系統作為評分輔助手段。

這些機器評卷員的背後，有海量的資料作為參考，即使一天閱卷無數，也並不會因為疲勞以及不愉悅的情緒影響閱卷的效率和公正。

但事實真的是這樣嗎？最近，VICE 的一份報導顯示，這些 AI 評卷員實際上並沒有大家想像中的公正。

▲ 圖片來自：VICE

無可避免的演算法偏見

AI 評卷，其實也沒有大家想像中的那麼公正。而首先第一個問題，就是演算法偏見。

實際上，教育行業一直以來都在盡力消除對不同語言背景的學生所產生的潛意識偏見，但這個問題則在人工智慧評卷系統上相當嚴重。

ETS（美國非營利性考試服務中心）所提供的 E-rater 機器評分系統，目前正在為 GRE、TOEFL 等考試提供評分參考。而 ETS 也是眾多機器評分系統提供商中，極少數會提供偏差研究報告的。

ETS 新產品開發副總裁 David Williamson 表示：

其實評分系統存在演算法偏見是一個普遍存在的問題，只不過大多數提供商都不會像我們這樣對外公開。

在多年的研究裡，ETS 發現機器評分系統會「偏愛」來自中國大陸的學生，所給的分數整體會比人類評卷員要更高。與此同時，像非裔美國人、阿拉伯語學生、西班牙留學生等群體則更容易受到來自機器的偏見，所能得到的分數會更低一些。

▲圖片來自：VICE

為此，ETS 在 2018 年對演算法進行了深入的研究，最終發現了原因。

以 GRE（美國研究生入學考試）為例，來自中國大陸的學生由於篇幅更長，且會在論文中使用大量複雜的詞彙，使得機器誤認為論文的水準會高於平均水準，從而給出更多的分數。即使這些複雜的句型在人類評卷員看來和論文的主旨並無太多關聯，甚至明顯能看出是套用了預先背好的範文。

相反，由於非裔美國人、阿拉伯語留學生的語言風格會更偏向於簡單和直接，導致在機器評分系統中很難獲得較高的分數。

這些偏見實際上也直接反應在分數上，在測試時，一群水準相當的學生當中，E-rater 機器評分系統為中國大陸的學生給出的平均分達 1.31 分，而非洲裔美國人則只有 0.81 分。

當然，如果有參與 GRE 的讀者也不用擔心，因為該系統目前也只是給人類評分員「打一下輔助」而已，最終的論文成績依舊是由人類來決定。

而除了 ETS 以外，新澤西理工學院也發現了自家所使用的一項機器評分系統存在著演算法偏見。

新澤西理工學院此前通過一個名為 ACCUPLACER 的評分系統來判斷一年級學生是否需要額外的輔導，但是後來經過技術委員會的研究發現，該系統對亞裔、西班牙裔學生所寫的論文會存在偏見，並不能很公正地給出判斷。

甚至「狗屁不通」的論文也能獲得高分

如果說演算法偏見只是影響分數高低，對考試公正影響還不算特別大的話，那麼機器評分系統還有一個更嚴重的缺陷。

就是連胡編亂造也識別不出來。

在幾年前，麻省理工學院的預科主任 Les Perelman 和一群學生利用論文語言生成器 BABEL 生拼硬湊出了數篇論文。

這幾篇論文與正常的論文不太一樣，雖然運用了很多高級詞彙，複雜句型，但當中大部分內容都是前言不搭後語的，甚至可以用「狗屁不通」來形容。

他們將這幾篇論文提交給了幾個不同的機器評分系統進行評分，出乎意料的是，這幾篇論文都獲得了不錯的成績。

更讓人想不到的是，幾年後 VICE 也複製了該實驗，結果也和之前驚人地相似。新澤西理工大學教授 Elliot 對此表示：

目前的論文評分系統更加強調語法的準確性、書面語言的標準性。但是對於學生敏銳的觀點和特別的洞察卻很難發現出來。然而這兩點在人類評卷員看來，都是一篇論文最寶貴的地方。

目前，已經有不少教育領域的相關人士對這些機器改卷員提出質疑，而澳大利亞也已經宣佈暫時擱置在標準考試當中引入機器評分系統。

來自 AI Now 研究所的 Sarah Myers West 表示，與在更廣泛的人工智慧應用領域中一樣，想把演算法偏見在評分系統中消除同樣是一場持久戰。

不過儘管如此，無論是來自新澤西理工大學教授的 Elliot 還是來自 AI Now 研究所的 Sarah Myers West，他們都還是發展機器評分系統的支持者。因為這確實是未來的一個發展方向，正如猶他州的考試發展評估員 Cydnee Carter 所說，通過機器對論文進行評估，不僅能為國家的教育系統省下大量的人力和物力，這項技術未來還能給學生和教師提供及時的學術回饋，極大地提高教育效率。

只不過在完全能做到公平公正之前，這些機器評卷員，還是只充當一個輔助的角色為妙。

圖、文轉載自愛范兒

論文大學 AI 人工智慧

延伸閱讀News

更多活動

AI未來

延伸閱讀News

台灣製造無人駕駛自駕車無人

打破身體的囚牢！AI有望讓癱瘓失語者重獲溝通能力

最愛機器人！日本對於機器人的特殊感情

AI 想為你打造一些新的口味，創新一下食物搭配

全球首例遠端操縱機器人，20英里外完成心臟手術！

是好是壞？製藥公司利用AI大數據加快新藥開發

比畢卡索作品還高！AI畫作1363萬元成交

如果能理解醫生的準確意圖，深度學習會是醫療診斷的未來嗎？

從夏日大作戰中看未來AI

AI未來

延伸閱讀News

台灣製造 無人駕駛 自駕車 無人

打破身體的囚牢！AI有望讓癱瘓失語者重獲溝通能力

最愛機器人！日本對於機器人的特殊感情

AI 想為你打造一些新的口味，創新一下食物搭配

全球首例遠端操縱機器人，20英里外完成心臟手術！

是好是壞？製藥公司利用AI大數據加快新藥開發

比畢卡索作品還高！AI畫作1363萬元成交

如果能理解醫生的準確意圖，深度學習會是醫療診斷的未來嗎？

從夏日大作戰中看未來AI

台灣製造無人駕駛自駕車無人