歷屆成果｜第 6 屆專題實作・2021

自動評估網路上的仇恨言論

NLPDiscord Bot

  1. 報名
  2. 線上初賽
  3. 程式挑戰營
  4. YTP2026H2黑客松
  5. 海外參訪

出自第二階段專題實作（第 11 屆起改為黑客松）。

團隊

ORZCK

簡介

社群平台需要大量人工審查員過濾仇恨、色情、暴力內容，這份工作又帶來極大的心理壓力。本專題把「網路留言的仇恨程度評估」定義為回歸問題：給定一則留言，輸出 0（最無害）到 1（最具攻擊性）的浮點數。訓練資料採用 Ruddit（約 6,000 則 Reddit 留言，以 Best–Worst Scaling 人工兩兩比較後標準化），前處理刪去 Redacted／deleted 留言、tokenize 並加上 attention mask，以 9:1 切分訓練與測試，模型以 BERT 微調並與其他模型比較，同時投稿 Kaggle 的 Jigsaw Toxic Severity Rating 競賽。實際應用做成 Discord bot——大型社群伺服器往往需要數位 moderator 人工管理頻道，bot 可自動為訊息評分並作出對應反應。未來方向為多國語言、錯字處理，以及降低對特定族群用語造成的判斷偏差。

連結

同屆專題