digital 千里眼 @abp_jp

アナログな日常とデジタルの接点

Adblock Plus フィルタ作成の工程と利用ツール

購読フィルタのメンテで労働力・時間が足りないとか言っても、どんなことしてるか紹介しないと伝わらない...ので書いてみる

フィルタ作成工程の概要

No 工程 主体 労働力
広告発見 ⇒ 報告(Issue Report) ユーザー 適度
調査 ⇒ フィルタ作成 ABP JP メンバー 不足
確認 ユーザー 適度

ソーシャルな力で解決したい(@abp_jp でゆったり実践中)

広告発見 ⇒ 報告(Issue Report)

Issue Report 機能によりユーザの「広告発見 ⇒ 報告」負担は軽減されたが...
ポルノ系広告の報告が増えた...orz(丸投げ現金、いや罰金

調査は「非接触」で

トラップを避けるため、調査対象に直接アクセスすることは避けるべきです
ではどうするか...使用するツールを見てみましょう

「非接触」調査の手順

1.スクリプト or iframe 等のリクエストをリストアップ

利用ツール名 URL 利用場面
aguse http://www.aguse.jp/ ページ解析(リダイレクト・METAタグ・JavaScript有効時のスクリーンショット・同一IPの別ドメイン名・HTTPSサードパーティ接続するオブジェクト・ドメイン登録情報・IP登録情報・あまりアテにならないブラックリスト
SiteSpeedLab http://www.indeep76.com/ ファーストパーティを含むリクエスト(DNSJavaScript)とその結果(リダイレクトなど)のログ
WebPagetest http://www.webpagetest.org/ SiteSpeedLab と似た機能を提供。Flashスクリーンショットが撮れるのが便利。SiteSpeedLab はドメインによっては実行できないことがあるが、こちらはない
Sucuri Security Scanner http://sitecheck.sucuri.net/scanner/ SiteSpeedLab よりシンプルなリクエストの解析と安全性検査

2.ネットワーク情報

利用ツール名 URL 利用シーン
robtex http://www.robtex.com/ ネットワーク設定調査、運営会社調査、ブラックリスト確認

3.画面確認

利用ツール名 URL 利用場面
aguse Gateway http://gw.aguse.jp/ JavaScript有効状態での非接触ブラウジングJavaScriptソースの足の残らない安全なダウンロード・画像のプレビュー(swf 未対応が残念...)
kwout http://kwout.com/ swf を含むスクリーンショット確認

4.レピュテーションの確認

利用ツール名 URL 備考
Web of Trust(WOT) http://www.mywot.com/ja ユーザーレビュー数最大
McAfee SiteAdvisor http://www.siteadvisor.com/ サードパーティCookie・ポップアップ・ユーザーレビュー
Google セーフ ブラウジング http://google.com/safebrowsing/diagnostic?site=sample.com Google の独自解析(URLの sample.com を調べたいドメインに置き換えて使う)
URL Void http://www.urlvoid.com/ 複数の URL のレピュテーションを一気に調査
IP Void http://www.ipvoid.com/ 複数の IP のレピュテーションを一気に調査
Norton Safe Web http://safeweb.norton.com/ 検出率低い・ユーザーレビューなし

5.必要に応じて JavaScript 調査

利用ツール名 URL 利用場面
JSUNPACK http://www.jsunpack.jeek.org/dec/go JavaScript 自動解析(画像、iframe や script)
Wepawet http://wepawet.iseclab.org/ JavaScript 自動解析(eval、write、リクエスト、リダイレクト、ActiveX、Shellcode)
JsDecoder - javascript decoder - decode obfuscated script http://www.gosu.pl/decoder/ JavaScript 整形
Format Javascript http://www.formatjavascript.com/ JavaScript 整形
Javascript unpacker and beautifier http://jsbeautifier.org/ JavaScript 整形

いいツールあったらコメントで教えてください