ブログ

Jun 21, 2023

Activision は Modulate と提携して、

Kyt Dotson による更新 12:40 EDT / 2023 年 8 月 31 日 Activision Blizzard Inc. は、Modulate の開発者である Modulate との提携により、ゲームにおけるボイスチャットの有害性への対処においてより強力な役割を果たしています。

2023 年 8 月 31 日 12:40 EDT 更新

キット・ドットソン著

Activision Blizzard Inc. は、オンライン チャットの安全性を評価できる機械学習音声テクノロジーの開発者である Modulate との提携により、自社のゲームにおける音声チャットの有害性への対処においてより強力な役割を果たしています。

水曜日に発表されたこの新技術は、北米全域でActivisionの一人称視点シューティングゲーム『コール オブ デューティ モダン・ウォーフェア II』と『コール オブ デューティ ウォーゾーン』に導入される予定だ。 「Call of Duty」は Activision の最も人気のあるタイトルの 1 つであり、「Modern Warfare II」は同社にとって最初の週末で最も売れたリリースとなりました。 2022 年 11 月のローンチではわずか 3 日間で 8 億ドル以上の収益を上げ、Valve Corp. の Steam プラットフォームだけで最大同時プレイヤー数 169,000 人に達しました。

オンライン ゲーム プラットフォームは、テキストと音声の両方でのオンライン ゲーム チャットにおいて、プレイヤーが互いに罵り合う「有害な行為」と呼ばれる行為にしばしば悩まされてきました。 これは、ネットいじめ、ヘイトスピーチ、差別的な言葉、嫌がらせを通じて発生する可能性があります。 特に、激しい競争とアドレナリンの中で起こる可能性があります。

新しいボイスチャットモデレーションシステムは、人工知能を活用したModulateのシステムであるToxModを使用し、有害な行動をリアルタイムで特定し、その強制を支援します。 この技術は、ゲーム内チャット用に 14 の異なる言語をフィルタリングすることでテキストと音声チャットの両方をすでに追跡している Activision の毒性対策チームを支援します。

Modulate によると、ToxMod は高度な機械学習を適用して、会話のニュアンスを分析して音声チャットにフラグを立てることで動作し、「ふー、そうだね！」の違いを区別できるようにします。 そして「ふ、あなた！」 会話の文脈や他のプレイヤーの反応を見てユーザーの感情を把握することもできます。

同社は最近、有害な発言やいじめの検出に役立つだけでなく、「リスク カテゴリ」も追加しました。これにより、機械学習アルゴリズムは、暴力的過激化や子供のグルーミングの重大なリスクを示唆する長期にわたる行動傾向を検出できるようになります。

新しいリスク カテゴリは、単純な発話を使用し、意図のパターンを使用して行動にフラグを立てようとするリアルタイムのモデレーションよりも大きな時間スケールを考慮します。 このようにして、モデレーターはタイムライン上のプレーヤーの行動を全体的に把握し、コミュニティ内で対処する必要があるかどうかを確認できます。

Activision の最高技術責任者である Michael Vance 氏は、「ゲームにおいて破壊的な行為や嫌がらせが許される余地はありません」と述べています。 「特に破壊的なボイスチャットに取り組むことは、ゲーム全体にわたって長い間並外れた課題でした。 これは、すべてのプレイヤーにとって楽しく、公平で、歓迎的な体験を作成し、維持するための重要な一歩です。」

競争力の高い e スポーツ ゲーム「リーグ オブ レジェンド」のパブリッシャーであるライアット ゲームズ社などのゲーム開発者は、長年にわたってゲーム内の有害性に直面しており、チャットでの行為を抑制するのに苦労してきました。 これらの行為と闘うために、Riot と多数のゲームを提供するフランスのビデオ ゲーム パブリッシャーである Ubisoft Entertainment SA が提携して、有害な言葉や行為に対処するために AI を活用したモデレーションのためのデータベースを構築しました。

Modulateの最高経営責任者マイク・パパス氏は、「これは『コール オブ デューティ』と同等の規模と規模のプレイヤーコミュニティをサポートする上での大きな前進であり、この取り組みをリードするというActivisionの継続的な取り組みをさらに強化するものである」と述べた。

Activision は、「Modern Warfare II」の発売以来、「Call of Duty」の既存のモデレーション チームが現在のテクノロジーを使用して 100 万以上のアカウントに対して音声またはテキスト チャットを禁止していると自慢しました。 フィルタリングとレポートを組み合わせた場合の同社独自の調査によると、有害なプレイヤーの 20% は最初の警告を受けた後は再犯しません。 そうした場合には、テキストおよび音声チャットの制限やアカウント権限の一時的な喪失などのさらなるペナルティが課せられます。