アルゴリズムがツイッターで女嫌いな人の正体を暴く

ツイッター上で放たれた暴力と言葉による失格を受けて、ソーシャルネットワークはユーザーの交流を一掃するための一連の措置を講じているが、努力は、例えばマチスモを避けるためのものほど大きくはなかった。

この問題を解決するために、オーストラリアのクイーンズランド大学の研究者たちは、女性差別的な態度を検出することができるアルゴリズムを作成しました。

同チームは、人工知能をベースにしたツールを開発し、抽出された100万件以上のツイートを詳細に調査した。

その後、出版物を検索して、3つの罵倒的なキーワードである「売春婦」「尻軽女」「レイプ」を検索することで、データセットを精緻化しました。

その後、残りの5,000件のメッセージを、文脈や意図に応じて、女嫌いか女嫌いでないかに分類しました。これらのタグ付けされたツイートは、自動学習分類器に送られ、自動学習分類器はサンプルを使用して独自の分類モデルを作成します。

“back to the kitchen “というフレーズを例に挙げてみましょう。“構造的な不平等の文脈がなければ、機械の文字通りの解釈は、その女性差別的な意味を失う可能性があります。“と、研究の共著者であるリチ・ナヤ教授は述べています。“しかし、何が虐待や女嫌いの言葉を構成するのかを理解した上で見ると、女嫌いのツイートであることがわかります。

研究者は、これまでのところ、アルゴリズムは男性コンテンツを含むツイートの最大75％を特定することができたとコメントしている。

“私たちのアルゴリズムが『キッチンに戻って』を女嫌いだと識別したときは、とても嬉しかったです。

“現時点では、利用者には不正使用を報告する責任がある “と名谷教授は言う。“私たちの自動学習ソリューションが、オンライン上の女性や他のユーザーグループを保護するために、このコンテンツを自動的に識別して報告するためのSNSプラットフォームに採用されることを期待しています。