Collaborative Immune System 協作式免疫系統 協働する免疫システム

As many of you know, I advocate for Open Government—drafting laws not behind closed doors, but starting with "broad listening" (as Mr. Suzuki will detail shortly).

In March 2024, the Ministry of Digital Affairs (moda) convened an "Alignment Assembly" of 447 citizens, statistically representative of Taiwan's demographics. We asked them to brainstorm on the very difficult issue of platform responsibility.

After a day of deliberation via video, they delivered a result—a mandate that no lobbyist could dispute:

• 89% supported requiring platforms to detect and label AI-generated content.
• 85% supported platform joint liability—if a platform fails to remove a scam ad, causing someone to believe it, the platform should be jointly liable for damages.
• Regarding enforcement: Citizens agreed that if a foreign platform persistently refuses to comply, we should slow down their connection speed—traffic throttling.

This consensus became the foundation of our legislation. When the law passed last year, there was no public backlash, because the public had written the rules themselves.

正如各位所熟知的，我主張開放政府，比如起草法律不是關起門來寫字，而是從「廣泛傾聽」開始（稍後鈴木健先生將補充）。

2024 年 3 月，數位發展部（moda）召集了由 447 位公民組成的「對齊大會」，這些公民在統計學上能夠代表臺灣的人口結構。我們針對平台責任這個非常困難的問題，邀請大家集思廣益。

經過一天的視訊審議，他們給出了結果——這是一個任何遊說團體都無法反駁的民意基礎：

• 89% 支持要求平台必須偵測並標示 AI 生成內容。
• 85% 支持平台連帶責任——如果平台不配合下架詐騙廣告，導致有人誤信，平台應該對損害負連帶賠償責任。
• 關於執法：公民們同意，如果境外平台持續拒絕配合，我們應該降低其連線速度，也就是流量管制。

以上共識成為了我們立法的基礎。去年在法律通過時，沒有引起公眾的反彈，因為這些規則本就是大眾共同制定的。

ご存知の方も多いと思いますが、私は「オープンガバメント」を提唱しています。法律を密室で起草するのではなく、まずは「広く耳を傾ける」ことから始めるのです（これについては後ほど鈴木さんが詳しく触れられます）。

2024年3月、デジタル発展部（moda）は、台湾の人口構成を統計的に代表する447人の市民による「アライメント大会（対齊大會）」を招集しました。私たちはプラットフォームの責任という非常に難しい問題について、皆で知恵を出し合いました。

1日のビデオ熟議を経て、彼らはある結果を出しました。それは、どんなロビイストも覆せない「民意の負託」でした。

• 89% が、プラットフォームにAI生成コンテンツの検知と表示を求めることを支持。
• 85% が、プラットフォームの連帯責任を支持。もしプラットフォームが詐欺広告を削除せず、誰かがそれを信じてしまった場合、プラットフォームは損害に対して連帯して賠償責任を負うべきだというものです。
• 執行に関して：市民は「もし海外プラットフォームが法令遵守を拒み続けるなら、接続速度を落とすべきだ」と合意しました。すなわち「通信帯域制御（トラフィック・スロットリング）」です。

このコンセンサスが、私たちの立法の土台になりました。昨年法律が成立したとき、市民からの反発が起きなかったのは、そのルールが大衆によって共同で書かれたものだったからです。

Armed with this legitimacy, we proposed the draft in May 2024, and our Legislature passed the four new anti-fraud laws in July. The centerpiece is the Fraud Crime Hazard Prevention Act.

Today, I will focus on Chapter 3: Articles 27 through 42, which specifically regulate Internet Advertising Platforms. Note that this applies to advertising platforms, not general speech platforms.

We transformed the moral expectations of the people into four lines of legal defense.

有了這份正當性，我們在 2024 年 5 月提出草案，立法院 7 月通過了「打詐新四法」。其中的核心是《詐欺犯罪危害防制條例》。

今天，我將聚焦在第三章：第 27 條到第 42 條，專門規範「網路廣告平台」。注意，不是一般的言論平台，而是僅針對廣告平台。

我們將人民的道德期待，轉化為四道法律防線。

この正統性を背景に、私たちは2024年5月に草案を提出し、立法院は7月に「詐欺対策新4法」を可決しました。その中核となるのが『詐欺犯罪危害防制條例』（Fraud Crime Hazard Prevention Act）です。

本日は、その第3章、第27条から第42条、すなわち「インターネット広告プラットフォーム」を具体的に規制する部分に焦点を当てます。一般的な言論プラットフォームではなく、広告プラットフォームだけが対象である点にご注意ください。

私たちは人々の道徳的な期待を、4本の法的防衛線に変えました。

1. Verification at Source (Article 30)

The first line of defense is changing the "default setting." Under Article 30, platforms must implement KYA (Know Your Advertiser)—like KYC in finance, but for advertisers.

Before any ad can run—not just investment ads, but any ad—the platform must verify the advertiser's identity using digital signatures, biometrics, or equivalent technology. If the platform cannot verify the identity, they cannot take the advertiser's money. It is that simple.

2. Radical Transparency (Article 31)

The second line of defense is opening the black box. Once identity is verified, all ads must be clearly labeled for all viewers, disclosing:

• The name of the advertiser / commissioner (who ordered the ad).
• The funder (who paid for it).
• If deepfake technology or AI generation was used to portray a person, it must be explicitly disclosed.

We are stripping away the anonymity that scam syndicates rely on.

3. Notice & Takedown (Article 32)

The third line of defense is active action. Article 32 mandates a "Notice and Takedown" mechanism. If a platform knows or is notified of scam content, they must remove it within 24 hours.

But a rule without a consequence is just a suggestion. So, Article 32 includes a powerful lever: Joint Liability. If a platform fails to remove a scam ad after notification, and a citizen suffers financial loss, the platform is jointly liable for damages alongside the scammer. This shifted the platforms’ ROI calculation overnight. Compliance became cheaper than negligence.

Conversely, under Article 38, we offer a Safe Harbor. If a platform acts in good faith to remove content based on our laws but makes a mistake, they are exempted from liability for damages to the user. We punish non-compliance, but explicitly protect cooperation.

Again, this applies only to advertising—paid pushed content. This is about Reach, not Freedom of Speech.

4. Last Line of Defense: Enforcement (Article 39)

What if a global giant refuses to comply? Article 29 requires platforms to appoint a Legal Representative in Taiwan. No more excuses like "we have no local office."

If they still refuse to comply, Article 39 authorizes our expert commission to deploy the citizen-mandated penalties:

1. Heavy Fines: Up to NT$100 million (approx. 460 million yen) per violation.
2. Traffic Throttling: We can order ISPs to slow down access to the platform. This degrades the user experience, making the platform commercially unviable for advertising, while freedom of speech remains protected.
3. Blocking: If they persist in non-correction, we can ultimately stop resolving the platform's domain (DNS blocking).

一、 源頭驗證（第 30 條）

第一道防線是改變「預設值」。根據第 30 條，平台必須實施 KYA (Know Your Advertiser，認識你的廣告客戶)——就像金融業的 KYC，但這是針對廣告商。

在任何廣告刊登之前——不只是投資廣告，是任何廣告——平台必須使用數位簽章、生物辨識或同等技術來驗證廣告主的身分。如果平台無法驗證身分，就不能收廣告主的錢。就這麼簡單。

二、 徹底透明（第 31 條）

第二道防線是打開黑盒子。一旦身分確認，所有廣告都必須向所有觀看者清楚標示：

• 委託刊播者的姓名
• 出資購買廣告的人是誰
• 如果使用了深偽技術或 AI 生成來描繪某人，必須明確揭露

我們正在剝去詐騙集團賴以生存的匿名面紗。

三、 通知機制（第 32 條）

第三道防線是最積極的行動。第 32 條規定了「通知即下架」機制。如果平台知悉或被通知有詐騙內容，必須在 24 小時內 將其下架。

但沒有後果的規則阻礙了自律。因此，第 32 條包含了一個強大的槓桿：連帶賠償責任。如果平台在接獲通知後未能移除詐騙廣告，導致公民遭受財產損失，平台必須與詐騙者共同負擔損害賠償責任。這在一夜之間翻轉了平台的投資報酬率（ROI）計算。合規變得比疏忽更便宜。

相對地，根據第 38 條，我們提供避風港條款。如果平台基於我們的法律善意移除內容但發生錯誤，他們可以免除對用戶的損害賠償責任。我們懲罰不合規，但明確保護合作行為。

再次強調，這僅適用於廣告——也就是付費推播的內容。這是關於觸及率（Reach），而非言論自由（Freedom of Speech）。

四、 最後防線：執法（第 39 條）

如果跨國巨頭拒絕配合怎麼辦？第 29 條要求平台必須在臺灣指定法律代理人。不再接受「我們沒有在地辦公室」這種藉口。

如果他們仍然拒絕配合，第 39 條授權我們的專家審議委員會執行公民授權的處罰：

1. 高額罰款：每次違規最高可達新台幣 1 億元。
2. 流量管制：我們可以命令網際網路服務供應商（ISP）降低對該平台的存取速度。這會降低使用者體驗，讓平台在商業廣告上無利可圖，但言論自由依然受到保障。
3. 限制接取：如果持續未改正，最後可以對平台網域停止解析。

1. 入口での検証（第30条）

第一の防衛線は、「初期設定（デフォルト）」を変えることです。第30条により、プラットフォームは KYA（Know Your Advertiser：広告主確認） を実装しなければなりません。金融業界のKYCのようなものですが、これは広告主向けです。

投資広告に限らず、あらゆる広告が配信される前に、プラットフォームはデジタル署名や生体認証、あるいは同等の技術を用いて広告主の身元を確認する必要があります。身元確認ができないなら、広告主からお金を受け取れません。シンプルです。

2. 徹底した透明性（第31条）

第二の防衛線は、ブラックボックスを開くことです。身元が確認されたら、すべての広告は視聴者に対して明確にラベル付けされ、以下を開示しなければなりません：

• 委託者（誰が広告を依頼したか）の氏名
• 出資者（誰がお金を払ったか）
• もし人物を描写するためにディープフェイク技術やAI生成が使用された場合は、その旨を明示的に開示する

私たちは、詐欺グループが頼りにしている「匿名性」というベールを剥ぎ取るのです。

3. 通知・削除メカニズム（第32条）

第三の防衛線は、最も能動的な行動です。第32条は「通知・削除（Notice and Takedown）」メカニズムを義務付けています。プラットフォームが詐欺コンテンツを「知った」または「通知された」場合、24時間以内に削除しなければなりません。

しかし、結果の伴わないルールは、単なる「提案」に過ぎません。そこで第32条には、強力なレバーが組み込まれています。連帯損害賠償責任です。通知後もプラットフォームが詐欺広告を削除せず、市民が金銭的損害を被った場合、プラットフォームは詐欺師と並んで連帯して損害賠償責任を負います。これにより、プラットフォームのROI（投資対効果）の計算は一夜にして変わりました。無視するよりも、遵守する方が安上がりになったのです。

一方で、第38条はセーフハーバー（Safe Harbor）を用意しています。法に基づき誠実に削除対応を行ったが、もし間違いがあった場合、プラットフォームはユーザーに対する損害賠償責任を免除されます。私たちは不履行を罰しますが、協力は明確に保護します。

繰り返しますが、これは広告（有料でプッシュされるコンテンツ）にのみ適用されます。これは「到達（Reach）」に関するものであり、「言論の自由（Freedom of Speech）」に関するものではありません。

4. 最後の防衛線：執行（第39条）

もし巨大グローバル企業が遵守を拒む場合、どうなるのか。第29条は、プラットフォームに台湾国内の法律代表者（Legal Representative）を置くことを求めています。「現地拠点がない」という言い訳はもう通用しません。

それでも遵守を拒むなら、第39条により、専門家委員会が市民の負託に基づくペナルティを発動できます：

1. 高額な罰金：違反ごとに最大 1億台湾ドル（約4億6000万円）。
2. トラフィック管理（帯域制御）：ISPに命じて、当該プラットフォームへのアクセス速度を低下させることができます。これによりユーザー体験を劣化させ、広告ビジネスとして成立しにくい状態にしますが、言論の自由は保護されたままです。
3. 接続遮断：是正されない状態が続く場合、最終的にはプラットフォームのドメイン解決を停止（DNSブロッキング）できます。

In practice, this is an automated process connecting citizens, government agencies, and platforms.

Citizens are active participants. When they spot a scam ad, they report it to our "Fraud Buster" database query network.

We train AI models to detect common patterns. When citizens flag a new type of scam and it is confirmed, the AI model takes over auto-detection.

Reports flow automatically to relevant ministries: investment scams to the Financial Supervisory Commission (FSC), medical scams to the Ministry of Health and Welfare (MOHW), and so on. If someone is being impersonated, the network directly contacts them: "Did you authorize this ad?" People building their personal brands shouldn't have their legitimate content mistakenly taken down. Once the authority confirms it is indeed a scam, it is sent to the platform, starting the 24-hour countdown to takedown.

這在實務上如何運作？這是自動化的流程，連結了公民、政府和平台。

公民不是被動的受害者，而是主動的參與者。公民在平台上看到任何詐騙廣告，都可以在我們的《網詐通報查詢網》（Fraud Buster）上通報。

我們也訓練 AI 模型來偵測常見模式。公民標記新型態的詐騙後，一旦該類型被確認為詐騙，AI 就會接手進行自動偵測。

這些通報會透過查詢網流向各個部會：投資詐騙流向金管會，醫藥詐騙流向衛福部，以此類推。有時，如果有人被冒充，通報網會發電子郵件給當事人：「你有授權這個影像嗎？」因為有時候人們也會建立自己的個人品牌——我們不想誤刪那些內容。一旦主管機關確認這確實是詐騙，就會發送給平台。通知發出後開始計時，平台必須在 24 小時內下架。

現場ではどう機能するのか。これは市民、政府、プラットフォームを結ぶ、自動化されたプロセスです。

市民は、受動的な被害者ではなく、能動的な参加者です。市民は、プラットフォーム上で詐欺広告を見つけたら、「詐欺通報照会ネット（Fraud Buster）」で通報できます。

また、私たちはAIモデルを訓練して一般的なパターンを検知させています。市民が新しいタイプの詐欺をフラグ付けし、それが詐欺だと確認されれば、AIが引き継いで自動検知を行います。

これらの通報は、ネットワークを通じて各担当省庁に流れます：投資詐欺は金融監督管理委員会（金管会）へ、医療詐欺は衛生福利部（衛福部）へ、といった具合です。時には、誰かがなりすまされている場合、ネットワークはその本人に直接メールを送ります。「この画像を許可しましたか？」と。人々は自分のパーソナルブランドを構築していることもあるため、誤って削除したくないからです。所管官庁が「これは確かに詐欺だ」と確認すると、プラットフォームに送信されます。そこから時計が動き出し、プラットフォームは24時間以内に削除しなければなりません。

Does this system work? The numbers speak for themselves. According to reports from the Ministry of Digital Affairs:

• Impersonation scam ads of public figures decreased by over 95%.
• Investment scam ads decreased by nearly 90%.

Our active AI scanning shows what this means in daily life: public figure impersonation ads went from over 30,000 per week in May 2024 to under 1,000 per week after the law took effect. They are now rarely seen. In terms of public safety outcomes, comparing November 2025 with November 2024, the number of accepted fraud cases decreased by 25%, and financial losses reported by citizens decreased by over 50%. This refers to all cases—not just investment or advertising fraud.

Major platforms like Meta have turned from adversaries ignoring us into allies, integrating their systems with our notification network. The antibody against this scam virus is collective vigilance. When citizens report, the system responds, and the defense scales.

From August 2024 to November 2025, a total of 112,054 suspected scam ads on Meta were flagged (by AI or human) and taken down through our cooperative channel. The fake investment ads that flooded Facebook last March are now hard to find.

這套系統有效嗎？數據會說話。數位發展部的報告顯示：

• 名人冒充詐騙廣告下降了 超過 95%。
• 投資詐騙廣告下降了 近 90%。

我們的 AI 主動掃描，顯示這對日常生活的意義：名人冒充詐騙廣告的數量，從 2024 年 5 月的 每週超過 30,000 則，在法律生效後崩跌至 每週低於 1,000 則，現在已經非常罕見。在公共安全成果方面，從 2024 年 11 月到 2025 年 11 月，受理詐欺案件數下降了 25%，公民通報的財損金額下降了 超過 50%。這是指所有案件——不僅僅是投資詐騙或廣告詐騙。

像 Meta 這樣的大型平台，已經從原本忽視我們的對立面轉變為盟友，將他們的系統與通報網整合。對抗這場詐騙病毒的抗體，是集體防護。當公民通報時，系統現在能做出回應並大規模地放大防禦效果。

從 2024 年 8 月到 2025 年 11 月，Meta 上共有 112,054 則疑似詐騙廣告被標記（由 AI 或人工）並透過合作管道下架。去年三月曾經充斥 Facebook 的假投資廣告，現在已難得一見。

このシステムは機能しているのでしょうか？ 数字が物語っています。デジタル発展部の報告によれば：

• 著名人なりすまし詐欺広告は 95%以上 減少。
• 投資詐欺広告は 90%近く 減少。

私たちのAIによる能動的スキャンは、これが日常生活において何を意味するかを示しています。2024年5月には 週3万件以上 あった著名人なりすまし詐欺広告は、法律の施行後、週1,000件未満 へと激減しました。今ではめったに見かけません。治安上の成果として、2025年11月と2024年11月を比較すると、受理された詐欺件数は 25% 減少、市民から報告された金銭的被害額は 50%以上 減少しました。これは投資詐欺や広告詐欺に限らず、すべての詐欺案件を含んだ数字です。

Metaのような主要プラットフォームは、対立相手から盟友へと変わり、自社のシステムを私たちの通報ネットワークと統合しています。このウイルスに対する抗体は、集団的な見守りです。市民が通報すれば、システムは応答し、防御を大規模に拡大できるようになりました。

2024年8月から2025年11月までに、Meta上の詐欺疑い広告、合計 112,054件 が（AIまたは人間によって）フラグ付けされ、私たちの協力チャネルを通じて削除されました。かつてFacebookを埋め尽くしていた偽の投資広告は、今では探すのが難しいほどです。

According to V-Dem, Taiwan has been the number one target of foreign disinformation attacks for the past 12 years. Usually, other countries have to pay for penetration tests—we get ours for free.

Why can attackers endlessly supply this "service"? Because most attacks today are AI-assisted, consuming minimal human resources. In the past, bot-generated scams looked fake. But since last year, they pass the so-called Turing Test—people cannot tell the difference between machine-generated and human-generated content.

It is impossible to defeat the attackers’ AI with human defenders; we must fight AI with AI (以AI治AI).

In the future, humans will still train the AI defenders, but the actual defense will be conducted by AI systems.

I currently serve on the board of ROOST (Robust Open Online Safety Tools). We work with OpenAI, Discord, Bluesky, etc., to provide the gpt-oss-safeguard model, which can cite its sources: "We acted on this because it violates this rule."

This AI model is:

• Deliberative: It thinks about the rules.
• Open: You can fine-tune it based on local culture.
• Steerable: People can co-write the rules—it is just a text file; you don't need a GPU to retrain it.

You just change the rules, and the AI automatically enforces them.

根據 V-Dem，臺灣在過去 12 年來一直是全球境外干預攻擊的首要目標。通常，其他國家需要付費進行滲透測試——我們則是免費享有。

為什麼攻擊者能源源不絕提供這種「服務」？因為現在大多數攻擊都是 AI 協力的，對人力的消耗有限。過去，機器人生成的詐騙看起來很假，不像真人。但從去年開始，它們通過了所謂的圖靈測試——人們無法分辨機器生成和人類生成內容的差異。

不可能用人類防禦者來戰勝攻擊者的 AI，必須要以 AI 治 AI。

未來的人類，仍然會擔任 AI 防禦者的訓練師，但實際進行防禦的將是 AI 系統。

我目前擔任 ROOST (Robust Open Online Safety Tools) 的董事。這個組織與 OpenAI、Discord、Bluesky 等合作，提供可以給出引用的 gpt-oss-safeguard 模型：「我們對此採取行動，是因為它違反了這條規則。」

這個 AI 模型是：

• 審慎的（Deliberative）：它會思考規則。
• 開放的（Open）：你可以根據在地文化進行微調。
• 可駕馭的（Steerable）：人們可以共同編寫規則——這只是一個文字檔，你不需要 GPU 來重新訓練。

你只需要更改規則，它就會自動執行規則。

V-Dem（民主主義多様性研究所）によると、台湾は過去12年間、外国からの情報操作攻撃の世界最大の標的とされています。通常、他国はペネトレーションテスト（侵入テスト）にお金を払う必要がありますが、私たちは無料でそれを受けているようなものです。

なぜ攻撃者はこの「サービス」を延々と提供できるのでしょうか？ それは、現在の攻撃のほとんどがAI支援によるものであり、人的リソースをほとんど消費しないからです。以前は、ボットが生成した詐欺は偽物だとすぐにわかりました。しかし昨年から、それらはいわゆる「チューリングテスト」に合格しており、人間は機械生成コンテンツと人間生成コンテンツを見分けることができません。

人間の防御者が攻撃者のAIに勝つことは不可能です。AIをもってAIを制する（以AI治AI）必要があります。

防御の自動化に向けた未来の人間は、防御AIのトレーナーとしての役割を担いますが、実際の防御はAIシステムによって行われます。

私は現在、ROOST（Robust Open Online Safety Tools）の理事を務めています。この組織はOpenAI、Discord、Blueskyなどと協力し、引用元を提示できる gpt-oss-safeguard モデルを提供しています。「これがこの特定のルールに違反しているため、対処しました」と説明できるのです。

このAIモデルは：

• 熟議的（Deliberative）：ルールについて思考します。
• 開放的（Open）：地域の文化に基づいて微調整（ファインチューニング）できます。
• 操舵可能（Steerable）：人々がルールを共同で記述できます。それは単なるテキストファイルであり、再トレーニングのためにGPUを必要としません。

ルールを変更すれば、AIが自動的にそのルールを実行します。