近日Instagram發布了一項新功能，這項新功能的目的在於抑制社群平臺上的網路霸凌，希望藉由邀請用戶三思而後行的方式，減少不友善評論的數量。

網路霸凌日趨嚴重社群平臺壓力漸增

根據研究調查，美國青少年中有高達59％的人有被人欺負或騷擾的經驗。在英國，則有42％的青少年曾被網絡霸凌。日漸嚴重的霸凌行為，使人們開始抨擊如Instagram這類的社群平臺，認為沒有採取足夠措施來應對網絡霸凌。

然而如何過濾言論是一個相當複雜的問題，過濾太多，會侵犯言論自由；過濾太少，依然無法阻止言語霸凌。再加上不同語言、文化和法規的複雜性，問題變得非常棘手。

新介入機制利用AI過濾具傷害性的言論

面對上述的問題，Instagram決定利用AI的能力來幫助他們建立機制。

AI會在用戶要發布一則回覆之前辨別是否為「負面回覆」，並會詢問「你確定要發布這則消息嗎？」。

photo by Instagram

Instagram 負責人Adam Mosseri說：「這樣的方式不會阻止人們發表負面回覆，但是提供人們有機會在發布之前『再想一想』。」

Instagram宣稱，在早期測試中，這項新功能成功鼓勵了許多用戶撤銷了自己的回覆。

這種嘗試在非硬性審查的情況下，減輕不當內容的方式可以說是相當的聰明。

新功能「Restrict」未來發文者將可限制不當回覆

除此之外，Instagram還表示正在測試另一個名為「Restrict」的反霸凌功能，該功能將允許用戶控制別人在自己的發文中所能看到的回覆。

通過「Restrict」的功能，用戶可以「過濾」自己發文下的不當回覆，使別的用戶不會接觸到這些言論，進而降低不當言論的擴散效應。

該公司表示，由於擔心事件升級，年輕人往往「不願意阻止、取消追蹤或回報霸凌行為」，所以希望藉由「Restrict」的功能，幫助被霸凌者保護自己。

Adam Mosseri說：「我們知道霸凌是許多人面臨的挑戰，尤其是年輕人。我們致力於引領行業打擊網絡霸凌，我們正在重新思考Instagram的整體使用體驗以實現這一項承諾。」

首圖/Photo by Luke van Zyl on Unsplash

IG Instagram 網路霸凌 AI Restrict

延伸閱讀News

最新消息