安全性向上！『QAQA』が目指す新しいクイズ体験とは

株式会社BLOCKSMITH&Co.は、ユーザーによって作成されたクイズを楽しむためのアプリ『QAQA（カカ）』に新機能を追加しました。この新機能は、AIによる自動モデレーションシステムです。これにより、クイズの内容がリアルタイムで解析され、差別的・暴力的な表現や個人情報の露出といった不適切な要素が検知され、フィルタリングされます。これまで以上に安全で快適なクイズ体験を提供することを目指しています。

モデレーション機能の詳細

『QAQA』では、ユーザーが自由にクイズの質問や解説、画像を投稿できるため、UGC（ユーザー生成コンテンツ）の多様性が魅力となっています。しかし、コンテンツの自由度が増すことで、健全性を保つことが重要になります。そこで建立されたのが、AIによる自動モデレーション機能です。

この機能は、以下の7種類の不適切な要素を検知し、自動でフィルタリングや警告、通報の対応を行います。具体的には、

- 差別的表現
- 暴力的表現
- 個人情報の露出
- 脱獄行為 などが含まれます。

これにより、クイズとして不適切な内容が公開されるのを未然に防ぎ、安心して参加できる環境を作り出します。特に、従来のルールベースでは捉えきれなかった婉曲表現や俗語、画像内のテキストにも対応可能です。多義的・文脈依存の表現解析にも優れた精度を持ちます。

利用者へのメリット

ユーザー体験を損なわないよう、審査プロセスは軽量かつ迅速に設計されており、ユーザーが投稿した内容はほぼ瞬時に検討されます。これにより、クイズに投稿したいという刺激を損なうことなく、安全性を高めることが可能です。これからも、QAQAはユーザー自身の自由な表現を尊重しつつ、そのコミュニティを保護するための努力を続けていきます。

今後の展望

BLOCKSMITH社は、このモデレーション機能の精度をさらに向上させ、より多くのユーザーが楽しめるクイズ体験を提供していく計画です。ただ単に不適切な表現の検出だけでなく、クイズの面白さや質を高めるためのファクトチェック機能の開発にも取り組む意向です。このように、質の高いコンテンツを自動で生成・管理するAIクイズジェネレーターの実現を目指しています。

開発トランジション

「本技術は、一般的なテキストモデレーションの枠にとどまらず、クイズという特有の要求に対して十分に調整されています。この最適化により、検出精度とその体験の両立が図られています。」と開発担当者は述べています。

『QAQA』について

『QAQA』は、ユーザーが様々なクイズを出題し、正解することで獲得したゲーム内通貨「CHIP」を利用し、商品や金券、暗号資産に交換できるアプリです。彼らは多くの企業ともコラボし、クイズを通じて広く情報を届けることを可能にしています。さらに、多くの企業とのパートナーシップもユーザーの体験を豊かにするために募集中です。