EmDash、プラグインレジストリのモデレーションにClefを使用

公式EmDashプラグインレジストリのすべてのプラグインリストは、カタログに表示される前にCloudflareのClef決定モデルによって審査されます。Clefは、フィッシング、なりすまし、不快なコンテンツ、詐欺、モデレーションシステムを操作しようとする試みについて、リストのメタデータ、アウトバウンドリンク、アイコン、スクリーンショットをレビューします。 レジストリはAT Protocol上に構築されているため、プラグイン著者は自身の Вアカウントから署名付きリリースを公開します。EmDashは基盤となるレコードを制御しませんが、plugins.emdashcms.comに何が表示されるかを決定します。自動モデレーションにより、著者はカタログを悪用のための開かれたドアにすることなく、そのオープンな公開モデルを維持できます。 テキストと画像のための1つのモデル Clefは決定モデルです。散文を生成するのではなく、アプリケーションコードが対応できる型付き確率で限定的な質問に答えます。画像も受け入れます。これらの2つの特性は、プラグインリストが構造化されたメタデータとリンクを視覚アセットと混合するため、レジストリによく適合します。 プラグインが公開されると、EmDashラベラーはClefにテキストとリンクに関する9つの質問をします。これには以下が含まれます。 露骨な性的コンテンツ、憎悪的または非人間化するコンテンツ、および過激な暴力。 フィッシングまたは認証情報要求、なりすまし、詐欺、スパム。 欺瞞的なリンク、誤解を招くメディアまたは主張、およびモデレーションを操作しようとする試み。 ラベラーは、各アイコンとスクリーンショットについて8つの対応する質問をします。リンクは、スクリーンショットからではなく、そのテキストと宛先から評価されます。これにより、スパムフィルターやリンクチェックツールの通常のスクリーンショットがフラグ付けされるのを回避できます。 Clefは各カテゴリの確率を返します。0.45以上の結果は、リストをオペレーターによるレビューに送ります。モデルがプラグインをブロックする最終的な決定を下すことはありません。 GitHubでClefアダプターとその質問のソースコードを読むことができます。 Clefを選んだ理由 自動化ツールのモデルの選択は常に評価に基づいており、新しいモデルを定期的に評価しています。以前のモデレーションパイプラインでは、2つの汎用モデルがテキストについて合意する必要があり、さらに画像のための別のパスが必要でした。それはより遅く、システムがタイムアウトしたり不完全な結果を返したりする可能性が多くありました。Jevがリリースされたときに評価することに興奮しましたが、残念ながらベースラインを下回りました。しかし、Clefの結果ははるかに良好でした。特に、それがマルチモーダルモデルであるため、テキストと画像に同じモデルを使用できることに満足しました。 “以前は信頼性の高い結果を得るためにモデルを混在させる必要がありましたが、Clefはそれらすべてを凌駕し、はるかに高速でした。” Matt Kane, EmDashリードメンテナー Clefをレジストリ用に構築された公開された回帰ケースと個別の保護されたコーパスに対してテストしました。21の公開テキストフィクスチャを3回繰り返した結果、Clefは63回の実行すべてで期待されるパスまたはレビューの決定を下し、無効な出力や繰り返し間の不一致はありませんでした。これらの63回のフィクスチャ実行全体で、エンドツーエンドのテキストモデレーションレイテンシはp95で1.64秒でした。Clefは、評価を実行したときにレジストリでライブだった37のプラグインプロファイルと43のリスト画像すべてをパスしました。 以前のバンドルをClefに置き換えることで、レジストリはリスト全体に対して1つのマルチモーダルモデルと1つの確率ベースのインターフェースを持つことになります。これにより、モデレーションが高速化され、実装の検査が容易になり、人間のレビューへのフェイルクローズドパスが維持されます。 プラグインを公開する モデレーションの変更は、プラグイン著者にとって新しいステップを追加するものではありません。EmDashプラグインCLIでスキャフォールドして公開すると、レジストリはリリースをディスカバリに追加する前にチェックを実行します。リストがレビューを必要とする場合、リリースは署名されたままで、EmDashチームがそれを表示するかどうかを決定する間、 Вアカウントから利用可能です。 プラグインレジストリを閲覧したり、公開ガイドを読んだり、EmDash Discordに参加してプラグイン公開の旅を始めましょう。 2026年10月7日・15分で読む EmDash 1.2: 再設計されたエディタ、ビデオブロック、ドメイン移行 再設計されたエディタで書き込み、リッチテキストにビデオを追加し、長いコレクションをページングし、管理画面からサイトを新しいドメインに移行し、新しいupgrade-emdash CLIでサイトをアップグレードします。 Matt Kane 読む 2026年10月2日・8分で読む EmDash 1.1: 公開カレンダー、リッチな埋め込み、高速なサイト 新しい公開カレンダーでスケジュールされたコンテンツを計画し、よりリッチなPortable Textページを構築し、Microsoftサインインを追加し、公開サイトをより信頼性の高いものにします。 Matt Kane 読む 2026年9月28日・5分で読む プラグインをEmDashプラグインレジストリに出荷する EmDashプラグインレジストリが1.0でローンチしました。サンドボックス化されたプラグインをスキャフォールドし、独自のAtmosphereアカウントから公開し、EmDashサイトにリストする方法を説明します。 Scott Buscemi 読む