ReonHata_JSAI2023

皮肉文検出のための皮肉状況の検出
関西大学
◯畑玲音・森野穣・松下光範

・悪口を言う「誹謗」とデマを言う「中傷」の組み合わせ語
・罵倒，デマ，揶揄，皮肉，嫌がらせ，etc.
誹謗中傷
・SNSでの誹謗中傷が問題になっている
・通報から削除やアカウント凍結など対策
SNSでの誹謗中傷
1/31

・Twitterでは1分間に約34万件のツイート
・その中から誹謗中傷を見つけ通報は人手では限界
誹謗中傷の検出の研究が行われている
・自動的に誹謗中傷を検出することで迅速な対応
対策の限界
・悪口単語の検出，感情分析，係り受け解析
2/31

・誹謗中傷のうち皮肉の検出が難しい
対象の欠点や弱点を遠回しに批判する言語現象
皮肉
ネガティブな対象
（ゴミ屋敷）
ポジティブな対象
（新築の家）
否定表現
（汚い家だね）
肯定表現
（綺麗な家だね）
⽪⾁
例）ゴミ屋敷で綺麗な家だね
検出における問題
3/31

・皮肉は文の表層的な意味とその意図が一致しない
・悪口単語を含まないことが多い
・感情分析ではポジティブな単語を含む
皮肉の検出は難しい
誹謗中傷検出においての皮肉
「君は講義中にゲーム出来て楽しそうだね」
楽しそうだね ≠ 講義に集中していないよねぇ
4/31

背景
・皮肉は肯定表現を用いている
→ 意図しない誹謗中傷が発生する可能性がある
調子が悪かった小谷過去の動画を見て
「すごい」と投稿
小谷はその肯定表現を
皮肉に捉え誹謗中傷となる
誹謗中傷における皮肉検出の有用性
5/31

[1]肥合智史, 嶋田和孝: 皮肉検出のための皮肉の対象の推定, 研究報告ドキュメントコミュニケーション(DC), Vol. 2018, No. 2, pp. 1–5 (2018).
・皮肉対象が含まれる文を皮肉として検出
肥合ら：皮肉検出のための皮肉の対象の推定[1]
「始発から遅延なんて幸先がいいですね」
肯定表現
・皮肉対象が非明示だと検出できない
皮肉対象肯定表現
皮肉の検出
6/31

皮肉対象の推定
・「対象」と「肯定表現」が同じでも皮肉対象が判断可能
・字面で見るとどちらも「君」が「楽しそう」
楽しそうだね」
ご飯を食べるときに
非皮肉
対象肯定表現
講義中にゲーム出来て
対象肯定表現
皮肉楽しそうだね」
「君は
「君は
7/31

・「対象」と「肯定表現」以外の文に着目
皮肉対象の推定
対象を皮肉対象にさせるような内容が含まれていると仮説
楽しそうだね」
ご飯を食べるときに
非皮肉
対象肯定表現
講義中にゲーム出来て
対象肯定表現
皮肉楽しそうだね」
「君は
「君は
8/31

・対象を皮肉対象にさせるような内容を検出
皮肉の検出
対象の文を検出
文の入力
皮肉として検出
9/31

テスト前に部屋を綺麗にするなんて
あなたは余裕ね
皮肉文
皮肉の構成要素
・皮肉文は二つの構成要素に分けれるのではないか
「，」
10/31

皮肉文
皮肉の構成要素
「，」
11/31

テストの点数が悪い
時間が全くない
テスト勉強をしていない
コンテクストな情報が必要
皮肉の構成要素〜皮肉表現〜
・単体では皮肉にも肯定表現にもなる
・評価表現（N/P）＝「皮肉表現」
皮肉文
「，」
12/31

皮肉を構成しうる状況
＝
皮肉状況
皮肉文
皮肉の構成要素〜皮肉状況〜
「，」
・評価が皮肉になる条件節
・状況を説明している部分
13/31

皮肉状況
構成要素から皮肉の検出
・コンテクストが集約されていると仮説
・「という皮肉」をつけて皮肉だと判断することができる
皮肉状況を検出することで
皮肉の検出が可能？？
＝
テスト勉強をしていない，テストの点数が悪い，時間がない
14/31

・皮肉状況と非皮肉状況を分類することにより検出を行う
状況を表す文から皮肉状況の検出を検証
本研究
皮肉状況の検出
・目的：皮肉状況に特徴があり検出できるのかを検証
15/31

②皮肉文に含まれる皮肉状況が検出
①状況文を皮肉状況と非皮肉状況に分類
提案手法
皮肉・非皮肉状況の分類器
学習
入力
皮肉状況
出力
状況文コーパス
①
皮肉状況文コーパス
②
16/31

提案手法
学習
①
・文章から皮肉状況が検出できるのか
・状況文コーパスを構築，分類器を作成を行う
・状況文コーパスを学習:テスト=８:２に分けて検証
皮肉状況
非皮肉状況
分類
17/31

提案手法
学習
入力
皮肉状況
出力
①
②
18/31

提案手法
入力
皮肉状況
出力
②
・皮肉を検出するために有効か検証
・皮肉状況文コーパスを構築，分類器で検証
・皮肉状況文コーパスの皮肉状況が検出可能かを検証
19/31

・Twitter APIで「という奇跡」をクエリとして取得
非皮肉状況
・皮肉状況と同様の処理で抽出
状況文コーパス:状況(皮肉・非皮肉)を表す文の集合各2,500件
・Twitter APIで「という皮肉」をクエリとして取得
皮肉状況
・「という皮肉」を削除することで皮肉状況の抽出
コーパスの作成〜状況文コーパス〜
ex)「裁判官が法を犯すという皮肉」
ex)「推しと会話できるという奇跡」
20/31

皮肉状況文コーパス:皮肉文に含まれる皮肉状況文の集合 3094件
・「(皮肉)」，「#皮肉」をクエリとして取得 ※クエリの単語は削除
皮肉文
・クラウドソーシングを用いて2/3人以上が皮肉と判断した文を使用
皮肉文＝ + 皮肉状況
皮肉文「あなたは余裕ね，テスト前に部屋を綺麗にするなんて」
皮肉文に含まれる皮肉状況
コーパスの作成〜皮肉状況文コーパス〜
皮肉表現
21/31

・「(皮肉)」，「#皮肉」をクエリとして取得 ※クエリの単語は削除
皮肉文
・クラウドソーシングを用いて2/3人以上が皮肉と判断した文を使用
皮肉文＝ + 皮肉状況
皮肉文に含まれる皮肉状況
22/31

・Yahoo!クラウドソーシングを用いて皮肉表現の記述を求めた
皮肉状況
・皮肉表現を削除すると皮肉状況が残らない文は除外
ex) 「日本ってつくづく平和ですね」→「日本って」
削除
23/31

・状況文を皮肉状況と非皮肉状況に分類する分類器
・状況文コーパスのうち各2,000件を用いて学習
・文脈を理解する事ができる
BERT
・少ないデータでも扱いやすい
分類器の作成
・学習にはBERTを使用
24/31

・その文だけでは状況を判断できない文
・皮肉として用いられてる奇跡的状況
・状況文コーパスの分類をした分類器の正解率0.867
結果と考察
皮肉と誤判断した例
例「寝て起きたら症状が回復する（という奇跡）」
例「合致している情報が何一つない（という奇跡）」
25/31

・その文だけでは状況を判断できない文
・皮肉として用いられてる奇跡的状況
結果と考察
皮肉と誤判断した例
例「寝て起きたら症状が回復する（という奇跡）」
例「合致している情報が何一つ（という奇跡）」
・皮肉状況だけでなく評価表現も含めた検出を行う
・「奇跡」以外の非皮肉文を含めた学習が必要
26/31

・ポジティブな内容の皮肉状況
・前処理で必要情報の誤削除
結果と考察
非皮肉と誤判断した例
例「私は真顔の方が綺麗（という皮肉）」
例「良い子はみんなご褒美をもらえる（という皮肉）」
27/31

・ポジティブな内容の皮肉状況
・前処理で必要情報の誤削除
結果と考察
例「私は真顔の方が綺麗（という皮肉）」
例「良い子はみんなご褒美をもらえる（という皮肉）」
・「〜の方が」などのパターンによる検出
・コーパスの作成方法の再検討
28/31

結果と考察
・皮肉に含まれる皮肉状況を検出した正解率0.788
・想像できる背景や前提知識が必要
例「ご近所さんはすでにビニールプールで大はしゃぎ」
・非皮肉状況に類似した文
例「居眠りしても年収1000万超えできる」
29/31

結果と考察
・皮肉に含まれる皮肉状況を検出した正解率0.788
・想像できる背景や前提知識が必要
例「ご近所さんはすでにビニールプールで大はしゃぎ」
・非皮肉状況に類似した文
例「居眠りしても年収1000万超えできる」
・コンテクストや前提知識を組み込んだ検出
・「奇跡」以外の非皮肉文を含めた学習が必要
30/31

ネガティブ状況から皮肉状況の検出
皮肉状況の検出から皮肉の検出を検証
・皮肉状況が含まれる文を皮肉として検出
検出した文が皮肉状況か検証
・状況文のネガポジによる判断が行われた可能性がある
展望
皮肉対象が存在しない皮肉の検出
31/31

背景 : SNSでの誹謗中傷が問題，皮肉の検出が困難
大問題 : 皮肉状況に着目して皮肉の検出を試みる
小問題 : 皮肉状況の検出を試みる
実装 : 状況文・皮肉状況文コーパスの作成，分類器の作成
実験 : 分類器の精度検証，皮肉文の皮肉状況の検出可能か検証
結果 : 状況文であるとき皮肉状況の検出可能
展望 :検出した文が皮肉状況か検証，皮肉状況から皮肉の検出
まとめ

ReonHata_JSAI2023

ReonHata_JSAI2023

Recomendados

Más contenido relacionado

Más de Matsushita Laboratory

Más de Matsushita Laboratory(20)

Último

Último(12)

ReonHata_JSAI2023