讓人民設定前沿 AI 的步調让人民来定前沿 AI 的节奏フロンティアAIのペースを、人々の手に

原因在於結構。最有能力左右前沿 AI 競賽的兩個政府——華府與北京——都有強烈的誘因，不願率先放慢腳步。雙方都有理由擔心，自己一旦節制，只會把戰略優勢拱手讓給對方。

換句話說，我們面對的是雙重的集體行動難題，一層套著一層。兩者環環相扣：「我們一放慢，中國就贏了」，正是美國實驗室與政府官員反對具約束力的監管時，最主要的論據。外層的競賽，是內層競賽最好的藉口；終結全球競賽，國內競賽也就失去了掩護。好消息是，與常見的描述相反，兩者都不是單純的囚犯困境——在囚犯困境裡，無論別人怎麼做，每位參與者的最佳策略都是背叛，而唯一的解方也必然是某種全球監管利維坦。

實際上，這兩個集體行動難題都更像賽局理論學者所說的「獵鹿賽局」（stag hunt），典出盧梭（Jean-Jacques Rousseau）的一則寓言。一群獵人結伴去獵一頭鹿。這頭鹿需要所有人合力才能拿下，而牠足以讓大家飽食好幾天。途中，每個獵人都看見了一隻野兔，也都動了抓兔子的念頭。

野兔雖然肉少，卻是穩穩到手的一餐；然而只要有任何一個獵人脫隊去追兔子，鹿就會跑掉，其他人只能餓著肚子回家。獵隊裡沒有人真的比較想要野兔。獵人之所以退而求其次，只是因為已不再相信其他人會為了獵鹿而堅守陣線。

在這裡，鹿是一個放慢步調夠久、足以確保安全的前沿；兔則是單一實驗室或單一國家獨自往前衝，就能搶到的領先。一個信任對手的實驗室或國家，與對手並肩配速反而更有利，因為大家一起放慢，遠比一時的領先更有價值——那種領先可能毀掉所有人，連領先者也不例外。

原因是结构性的。全世界最有能力左右前沿 AI 竞赛的两个政府——华盛顿与北京——都有强烈的动机不做第一个放慢的人。任何一方都有理由担心：自己的克制，会立刻把战略优势拱手让给对方。

换句话说，我们面对的是双重集体行动难题，一层嵌套在另一层里。两者相扣：“我们放慢，中国就赢了”——这是美国实验室与政府官员反对具约束力监管的主打论证。外层的竞赛，成了内层竞赛最好的挡箭牌；只要终结全球性的赛跑，国内那一场也就失去了掩护。好消息是：与常见的描述相反，这两层难题都不是那种简单的“囚徒困境”——即无论对方怎么做，各方最佳策略都是背叛；因此解决之道也未必只有某种全球监管利维坦一途。

相反，两层集体行动难题都更像博弈论中所谓的“猎鹿博弈”，源自卢梭的寓言。一队猎人出门去打一头鹿。要放倒它得靠所有人合力，而它足以让大家饱餐好几天。半路上，每个猎人都看见一只野兔，动了念头。

野兔是一顿薄餐，却是稳到手的一餐。可是只要有一名猎人分心去追它，鹿就会跑掉，其他人就只能空手而归。没有人真的更想要那只兔子。猎人只有在对同伴不再抱有信心时，才会退而求其次。

在这里，鹿，就是被拉长到足以确保安全的前沿；兔子，则是某一家实验室、或某一个国家独自继续冲刺所能领先的那一段。若某个实验室或国家能够信任对手，与之并肩定速将比暂时的领跑更划算——因为共同放慢的价值，胜过一次可能让所有人（包括领跑者自己）玉石俱焚的短暂领先。

理由は構造にある。フロンティアAIをめぐる競争の行方を最も大きく左右しうる二つの政府——ワシントンと北京——には、先に減速する側にはなるまいとする強い誘因がある。自分が自制すれば、戦略的な優位をみすみす相手に明け渡すだけだ。双方とも、そう恐れるだけの理由がある。

言い換えれば、私たちが直面しているのは、一方がもう一方の内側に入れ子になった、二重の集合行為問題である。二つは連動している。「我々が減速すれば、中国が勝つ」——これこそ、米国のラボや政府当局者が、拘束力のある規制に反対するときの主な論拠だ。外側の競争は、内側の競争にとって最良の口実になっている。世界規模の競争を終わらせれば、国内の競争も隠れ蓑を失う。朗報もある。しばしば描かれるのとは違って、二つの問題はどちらも、単純な囚人のジレンマ——他者がどう動こうと、各プレイヤーにとって裏切ることが最善の戦略になるゲーム——ではない。そして唯一の解決策が、必然的に何らかの地球規模の規制のリヴァイアサンになる、というわけでもない。

むしろ二つの集合行為問題はいずれも、ゲーム理論家が「鹿狩りゲーム」（stag hunt）と呼ぶものに近い。ジャン＝ジャック・ルソーの寓話にちなむ名前だ。狩人の一団が、一頭の鹿を追って出発する。鹿を仕留めるには全員の力が要るが、仕留めれば全員が何日も食べていける。その道すがら、狩人たちはそれぞれ一匹のウサギを見かけ、捕まえようかと考える。

ウサギはわずかな肉にしかならないが、確実な獲物だ。だが、たった一人でも持ち場を離れてウサギを追えば、鹿は逃げ、残りの者は腹をすかせたまま帰ることになる。一団のなかに、ウサギのほうがいいと思っている者は一人もいない。狩人がウサギで手を打つのは、鹿を追う仲間たちが持ち場を守り抜くと、もはや信じられなくなったときだけだ。

ここでいう鹿とは、安全を確かなものにできるだけの時間をかけて、ペースを整えたフロンティアのことだ。ウサギとは、一つのラボ、あるいは一つの国が、単独で走り続けることで手にできるリードである。ライバルを信頼できるなら、ラボであれ国であれ、相手と歩調を合わせたほうが得になる。ともにペースを落とすことには、一時的なリードよりも大きな価値があるからだ。そのリードは、先頭を走る者を含め、すべての者を破滅させかねない。

走出獵鹿賽局的方法，不是強制，而是保證機制（assurance mechanism）。如果每位參與者都能相信其他人會堅守崗位——更好的是，還能親眼看著他們堅守崗位——那股讓獵隊分崩離析的恐懼，便再也抓不住人心。前沿發展不必交由單一的世界權力統轄，才能被放緩、被控制。但它需要保證，而保證需要兩樣東西：驗證，以及一位各方都信得過的見證者。

前者已經逐漸成形。Anthropic 與 OpenAI 承諾允許進駐的獨立評估者，將以如同員工般的權限深入前沿系統內部，並能回報某個實驗室是否守住了步調。但由實驗室自行聘請、依照實驗室自訂的風險門檻來評判的評估者，無法讓對手安心，更遑論讓敵對的政府安心。只有當證據流向一個不受任何獵人控制、並且親自訂定了衡量標準的對象時，才能改變獵人們對彼此的看法。

因此，要把所有參與者推向合作均衡，需要的是這樣一個機構：它有足夠的道德權威，能成為顯而易見的協調焦點；也有政治正當性，能訂定合作的規則、協調驗證流程，並提高任何形式的背叛所要付出的聲譽代價。當今世界上，有哪個現存的機構，具備這樣的道德權威與政治正當性？

走出猎鹿博弈的关键不是强制，而是信心机制（assurance mechanism）。只要每一方都能相信其他各方会坚守岗位——最好还能亲眼看到对方在守——那种令队伍分崩离析的疑虑就失去了力量。前沿不必被交到某个单一的世界强权手里才能被减速与管控，但它需要信心；而信心需要两样东西：验证，以及一位所有各方都信任的见证者。

第一样正在成形。Anthropic 与 OpenAI 承诺允许进入的独立评估者，将以类员工权限深入前沿系统内部，并能报告某家实验室是否守住了自己的节奏。但由实验室聘请、以实验室自定的风险阈值为标尺的评估者，无法让竞争对手放心，更遑论让对方政府放心。只有当证据流向一位任何猎人都无法左右、且其标准正是由这位见证者所设的第三方时，它才能改变猎人们彼此之间的信念。

因此，把所有玩家推向合作均衡所需要的，是一个既有足够道德权威、能成为显著协调点，又有足够政治正当性、可以拟定合作条款、协调验证过程、并对任何形式的背叛施加声誉成本的机构。当今世界上，哪一个既有机构具备这样的道德权威与政治正当性？

鹿狩りゲームから抜け出す道は、強制ではなく、保証の仕組み（assurance mechanism）にある。ほかの者も持ち場を守ると、各プレイヤーが信じられるなら——さらに言えば、彼らが持ち場を守っている姿をその目で確かめられるなら——一団をばらばらにしてしまう恐れは、その力を失う。フロンティアを減速させ、制御するために、それを単一の世界権力の支配下に置く必要はない。だが、保証は欠かせない。そして保証には、二つのものが要る。検証と、すべての当事者にとって信頼に足る立会人である。

前者は、すでに形になりつつある。AnthropicとOpenAIが受け入れを約束した独立した評価者は、従業員並みのアクセス権をもってフロンティアのシステムの内部を見ることができ、ラボがペースを守っているかどうかを報告できるだろう。しかし、ラボに雇われ、ラボ自身が定めたリスクの閾値に照らして判断する評価者では、ライバルを安心させることはできない。ライバル国の政府となれば、なおさらだ。証拠が狩人たちの互いに対する見方を変えるのは、それが狩人の誰にも支配されない者——しかも、その証拠を測る基準を自ら定めた者——のもとへ流れるときだけである。

したがって、すべてのプレイヤーを協力均衡へと導くのに必要なのは、次のような機関だ。誰の目にも明らかな調整の焦点となれるだけの道徳的権威を持ち、協力のルールを定め、検証の過程を取りまとめ、あらゆる形の裏切りに伴う評判上のコストを引き上げられるだけの政治的正統性を備えた機関である。今日の世界で、それほどの道徳的権威と政治的正統性を持つ既存の機関とは、どこだろうか。

最顯而易見的候選者是聯合國——在世界事務上，它是我們所擁有最接近「常設見證者」的存在。但在這件事上，聯合國並不是中立的旁觀者：它在結構上，正與那些以彼此較勁驅動這場競賽的強權緊緊糾纏。安全理事會讓華府與北京，對這個本該為它們擔任裁判的機構，各握有一票否決權。更根本的是，聯合國由民族國家構成，以它們的聲音、用它們的語言說話。它是主權國家的大會，而不是能超然於主權之上、把主權與人類利益放上天平衡量的機構。

如果不是聯合國，那會是誰？在這個議題、乃至其他許多議題上，有一位角逐者比任何機構都更有資格：人類本身。這場競賽會毫無節制地延續下去，還是會被馴服，攸關人類的利益，甚至人類的存亡。要說出「停！」、「慢下來」，或是「我們要 AI 做這個、不要做那個」，論公信力，唯有人類凌駕於 AI 公司執行長、華府與北京的政府、其他相互競爭的國家、國際專家委員會，甚至聯合國之上。這是因為人類的利害關係具有普遍性，不會被任何單一國家或企業的利益所稀釋。

AI 公司的執行長們，其實也公開承認人類的這份主張。在 2023 年 3 月及此後的多次訪談中，奧特曼都描繪過一個「夢想情境」：「地球上的每個人齊聚一堂，針對我們要在這個系統的哪裡劃下界線，進行一場真正深思熟慮的審議對話；我們會有某種像美國制憲會議那樣的場合，在那裡辯論各項議題，從不同的角度看事情。」對於「為什麼要配速？」這個問題，阿莫戴的回答是：「社會必須對這項技術如何被使用擁有發言權」，而配速能為「公共審議」爭取時間。他沒有說明，他心中指的是哪一個社會。那不可能只是美國，甚至也不能只是整個西方——這項影響遍及全球的技術，需要一場全球的審議。

當然，在現行的國際秩序中，人類並沒有屬於自己的聲音。但只要精心設計，我們就能給它一個。

最容易想到的候选是联合国：它是我们当前拥有的最接近“全球事务常设见证者”的东西。但联合国在这件事上并非中立旁观者：它与那两个把竞赛推起来的强权本身在结构上紧密纠缠。安理会给了华盛顿与北京各自一票否决权，去否决那个本该来仲裁它们的机构。更根本地，联合国是由主权国家搭建、以主权国家的语气与语言发言的机构，是一场君主的集会，而不是一个能够凌驾于主权之上、把主权与人类整体利益放到天平上称量的机构。

不是联合国，那是谁？在这个问题——以及其他许多问题——上，有一个候选者的资格胜过任何机构：人类自己。它的利益，乃至它的存续，都关键地系于这场竞赛是不受节制地跑下去、还是被驯服。要说出“停下！”“慢一点”或者“我们希望 AI 做这个、不希望它做那个”，能凌驾于 AI 执行长们、华盛顿与北京两个政府、其他相互竞逐的国家、各种专家国际委员会、乃至联合国之上的可信性，唯独属于全人类。这是因为，全人类的利害是普遍的、不为任何单一国家或企业利益所稀释的。

AI 执行长们自己也公开承认这份来自“全人类”的诉求。2023 年 3 月及此后多次访问中，奥特曼提出过一个“梦幻场景”：“地球上的每一个人聚在一起，非常认真地、审议式地讨论我们要把这套系统的边界画在哪里；我们会有类似美国制宪会议那样的东西，就这些问题辩论，从不同视角看待事情。”面对“为什么要定速”这个问题，阿莫代回答：“社会必须对这项技术如何被使用有发言权”，而定速将为“公共审议”争取时间。他并未言明所指的是哪个社会。它不可能只是美国、甚至不可能只是整个西方——一项影响全球的技术，需要一场全球性的审议。

当然，在现行国际秩序中，“人类”并没有自己的声音。但我们可以通过精心设计给它一个。

すぐに思い浮かぶ候補は国連だろう。私たちが手にしているもののなかで、世界の出来事を見届ける常設の立会人に最も近い存在だ。だが、この問題において、国連は中立の傍観者ではない。その対立こそがこの競争を駆り立てている大国そのものと、国連は構造的に絡み合っているからだ。安全保障理事会は、本来ならワシントンと北京を裁くはずの機関に対する拒否権を、その両者にそれぞれ与えている。より根本的には、国連は国民国家から成り立ち、国民国家の声と言葉で語る。国連は主権者たちの集まりであって、主権を超えた立場に立ち、主権を人類の利益と天秤にかけられる機関ではない。

国連でないとしたら、誰なのか。この問題でも、ほかの多くの問題でも、どんな機関よりも強い資格を持つ候補がひとつある。人類そのものだ。この競争が歯止めなく続くのか、それとも飼いならされるのか。そこには人類の利益が、いや人類の存続そのものが、決定的にかかっている。「止まれ！」「ペースを落とせ」「AIにはこれをしてほしいが、あれはしてほしくない」——そう告げる信頼性において、AI企業のCEOにも、ワシントンと北京の政府にも、競い合うほかの国々にも、国際的な専門家委員会にも、そして国連にさえも勝るのは、人類だけである。人類が負う利害は普遍的であり、特定の国家や企業の利益によって薄められることがないからだ。

AI企業のCEOたち自身も、人類のこうした主張を公然と認めている。2023年3月、そしてそれ以降の数多くのインタビューで、アルトマンは「夢のシナリオ」を語ってきた。「地球上のすべての人が一堂に会し、このシステムのどこに境界線を引きたいのか、本当によく考え抜かれた熟議的な対話をする。そして米国の憲法制定会議のような場を設け、そこで論点を議論し、さまざまな視点から物事を見る」というものだ。「なぜペースを整えるのか」という問いに、アモデイは「この技術がどう使われるかについて、社会が発言権を持たなければならない」と答え、ペースを整えることで「公共の熟議」のための時間を稼げると述べた。どの社会を念頭に置いていたのか、アモデイは明言しなかった。米国だけであるはずはなく、西側全体でさえ足りない。地球規模の影響をもたらす技術には、地球規模の熟議が必要なのだ。

もちろん、現在の国際秩序のなかに、人類自身の声というものはない。だが、注意深く設計すれば、人類に声を与えることはできる。

我們的提案是：設立一個常設的全球公民大會，由從世界各地抽籤選出的 1,000 人組成——不妨稱之為「全球 AI 公民大會」（Global Citizens’ Assembly on AI）。這個大會的職責，是協助訂定強大 AI 的目的與界限，並接收評估者針對這些界限是否被遵守所提出的調查結果。哪些事，是絕不能允許 AI 去做的？我們希望它為我們、也為我們的後代做些什麼？誰應該治理它，又該依循哪些原則？這些問題，應該由全體人類來回答；若做不到，至少也要由具代表性的人類樣本來回答。

我们的提案是一个由从全世界随机抽签产生的 1000 位成员组成的常设全球公民大会，姑且称之为“全球人工智能公民大会（Global Citizens’ Assembly on AI）”。这个大会的职责是协助划定强大 AI 的目的与边界，并接收评估者关于这些边界是否被守住的调查结果。AI 永远不应被允许做什么？我们希望它为我们、为我们的后代做什么？它应该由谁来治理、依据哪些原则？这些问题应由全人类自身来回答；退而求其次，由具代表性的一份样本来回答。

私たちが提案するのは、世界中からくじ引きで選ばれた1,000人による、常設のグローバル市民会議である。仮に「AIグローバル市民会議」（Global Citizens’ Assembly on AI）と呼ぼう。この会議は、強力なAIの目的と限界を定める手助けをし、その限界が守られているかどうかについて、評価者の調査結果を受け取る役割を担う。AIに決して許してはならないことは何か。私たちのために、そして私たちの後に続く世代のために、AIに何をしてほしいのか。誰がAIを統治すべきで、どんな原則に従うべきなのか。これらは人類全体が答えるべき問いであり、それが叶わないなら、せめて人類の縮図となる人々が答えるべき問いである。

這個大會將持續運作，而不是交出一份報告就解散。成員採固定任期、兼職服務，並定期以抽籤改選三分之一的席次；如此一來，這個機構既能保有記憶，又不致固化成一個自成一格的階級。任職期間，成員將歷時數月進行審議，採線上方式並搭配在地支援；他們付出的時間與開銷都將獲得補償，也將享有筆譯與口譯服務及安全的通訊管道；若成員所屬國家的政府可能不樂見其言論，他們也將受到保護。一個獨立的公民祕書處，將匯集參與國政府與實驗室公開揭露的資金，同時不讓出資者影響成員招募，也不讓他們竄改證據。

成員可以委託觀點相互競爭的專家提供意見；大會之外的任何人，也都有公開的管道，可以對大會的成員遴選與結論提出質疑。理想上，大會也應與地方及國家層級的程序相互連結，讓這些程序的意見匯入大會的審議。這些設計的早期版本，曾分別刊登於 2023 年的《財星》，以及今年 8 月的《Noema》。

这个大会将持续运作，而不是产出一份单一报告即散会。成员任期固定、兼职担任，三分之一的席位定期以抽签方式更替，让这个机构在保留记忆的同时不至于固化为一个新阶层。任期之内，成员在线上并配合本地支援审议数月，其时间与开支给予财务补偿，提供翻译与口译、安全通讯，以及对于那些政府可能不喜欢他们发言的成员的保护。一个独立的公民秘书处负责统筹来自参与国政府和实验室的、公开披露的资金，但不允许出资方影响遴选或干预证据。

成员可以委托进行相互竞争的专家评估；大会之外的任何人也都拥有公开的路径，可就其选任与结论提出质疑。理想情况下，大会亦应与地方与全国层级的相应程序对接，让这些过程的意见汇入其审议。这些设计的早期版本曾发表于 2023 年的《Fortune》与今年 8 月的《Noema》。

この会議は、報告書を一本まとめて終わるのではなく、常に開かれ続ける。委員は非常勤で一定の任期を務め、議席の3分の1は定期的にくじ引きで入れ替わる。こうすれば会議は、組織としての記憶を保ちながら、独自の階級として固まってしまうこともない。在任中、委員はオンラインで、地域の支援も受けながら、数か月にわたって熟議する。費やした時間と経費は金銭で補償され、翻訳と通訳、安全な通信手段が用意され、発言内容を自国政府に快く思われないおそれのある委員には保護が与えられる。独立した市民事務局が、参加する各国政府とラボから、出所を公開した資金を集めて一元的に管理する。ただし、資金の出し手が委員の募集に影響を及ぼしたり、証拠に手を加えたりすることは許さない。

委員は、見解の対立する専門家に分析を依頼できる。会議の外にいる誰もが、委員の選出と会議の結論に異議を申し立てるための、公開された手続きを使える。理想を言えば、この会議は地域や国のレベルの熟議のプロセスともつながり、そこで出た意見が会議の熟議に流れ込むようにするのが望ましい。こうした設計の初期の構想は、2023年に『フォーチュン』誌に、そして今年8月には『Noema』誌に掲載されている。

為什麼是 1,000 名全球公民？規模這麼大，難道不會難以運作嗎？如果唯一的目標只是基本的人口代表性，統計學家或許幾百名成員就夠了。我們主張 1,000 人，是出於另一個理由：象徵意義，以及規模所帶來的能見度。一個規模堪比大型國會的機構，不是焦點團體，無法說忽視就忽視。

執行長可以對一位批評者、甚至一整個專家小組一笑置之。但任何實驗室領導人，若要拒絕回應從各大洲抽籤選出的一千個人，就得在全世界面前、公開地、附上理由地拒絕——並且解釋：他們口口聲聲說是以人類之名在發展 AI，為什麼人類的聲音，其實對他們並不重要。

为什么是 1000 位全球公民？岂不庞杂难行？如果基本的人口统计学代表性是唯一目标，统计学家用几百人就够了。我们坚持 1000 位，是出于另一个理由：象征意义与体量所带来的显著性。一个规模堪比大型议会的机构，就不是一个焦点小组，也无法被随手忽略。

一位执行长可以对一个批评者不屑一顾，甚至对一个专家小组也可以。但任何一位实验室领导者，如果拒绝回应从各大洲抽签选出的一千个人，就必须在全球舞台上、公开地、有理有据地拒绝——并解释为什么“人类之声”——他们口口声声说自己是以之名开发 AI 的对象——在他们眼中其实无足轻重。

なぜ、地球市民1,000人なのか。それでは大きすぎて扱いにくいのではないか。基本的な人口構成上の代表性だけが目的なら、統計学者は数百人で十分だと考えるかもしれない。私たちが1,000人を求めるのは、別の理由からだ。象徴性と、規模がもたらす存在感である。大規模な議会に匹敵する機関は、フォーカスグループとは違う。そう簡単に無視することはできない。

CEOは、一人の批判者なら、いや専門家委員会でさえ、肩をすくめてやり過ごせる。だが、あらゆる大陸からくじ引きで選ばれた千人に答えることを拒むなら、どのラボのトップであれ、地球という舞台の上で、公の場で、理由を示して拒まなければならない。そして説明しなければならないのだ。人類の名においてAIを開発していると繰り返しながら、その人類の声が、なぜ実のところ自分たちにとって取るに足らないのかを。

至於難以運作的問題，我們相信，只要有細緻的引導，再加上審慎運用 AI 工具，就不會構成問題。這 1,000 人可以在虛擬平台上集會，審議則拆分為小組討論，再接續以不同形式、搭配專家證詞的全體會議。

線上審議式民調的主辦者，早已懂得如何有效率、有成果地舉辦這類會議。同時，AI 工具可以進行翻譯、整理各方發言，並幫助成員看清彼此在哪裡有分歧、又在哪裡有交集。成員仍保有評斷這些摘要、修改議程的權力，也可以駁回機器對他們本意的詮釋。

為什麼要從各大洲以抽籤選出參與者，而不是仰賴由各國民選代表組成的代表團？因為任何人在這場 AI 競賽中的利害關係，都不取決於知識、資歷或勝選的能力，也與國籍無關。那些很少被問到對 AI 有何看法的人，將成為這個大會的成員：年輕人、鄉村居民、不識字的人、無法上網的人，以及那些自己國家的政府永遠不會派出的人。

誠然，抽籤並不能讓一千個人瞬間成為正當代表全人類的機構。大會必須在程序與審議上堪為典範，才能贏得道德權威。隨著合法的機構自願承認它、並對它承擔義務，這份道德權威才會逐漸鞏固為政治正當性。

至于操作上的庞杂难行，我们相信，凭借细致的引导，加上审慎运用 AI 工具，可以化解这个问题。1000 人可以在虚拟平台上集会；审议可以拆解为小组讨论，再接以不同形式的全体会议与专家陈述。

组织虚拟审议民调的机构，已经知道怎样高效地把这类会议开好。与此同时，AI 工具可以翻译、归类发言，并帮助成员看到彼此意见的分歧与重叠之处。最终判定摘要是否准确、变更议程、拒斥机器对他们本意的表述——这些权力，始终握在成员自己手里。

为什么以每一大洲抽签的方式产生成员，而不是依靠各国选举出的国会议员代表团？因为一个人在 AI 竞赛中的利害，并不以知识、学历或参选能力为前提，也不以国籍为条件。那些鲜少被问及 AI 的人，将坐在这场大会里：年轻人、乡下人、不识字的人、没有联网的人、以及那些永远不会被自己国家的政府送来的人。

诚然，抽签不会让 1000 个人瞬间成为“合法地代表全人类”的机构。这场大会必须以其程序与审议的示范性来赢得自身的道德权威。当合法机构自愿承认它、并向它承担相应义务时，这份道德权威将逐步凝固为政治正当性。

扱いにくさについて言えば、丁寧なファシリテーションとAIツールの賢明な活用によって、問題にならなくできると私たちは考えている。1,000人はオンラインのプラットフォームに招集できる。熟議は少人数のグループ討議に分け、そのあとに、専門家の証言を交えたさまざまな形式の全体会合を設ければよい。

オンラインで討論型世論調査を主催してきた人々は、この種の会合を効率よく、実りあるかたちで運営する方法をすでに心得ている。一方でAIツールは、翻訳をこなし、寄せられた発言を整理し、委員同士がどこで意見を異にし、どこで重なり合うのかを見えるようにしてくれる。要約の当否を判断し、議題を変え、自分たちの真意についての機械の解釈を退ける権限は、あくまで委員の手に残る。

なぜ、各国で選挙によって選ばれた代表からなる代表団に頼るのではなく、あらゆる大陸からくじ引きで参加者を選ぶのか。AI競争において一人ひとりが負う利害は、知識や肩書き、選挙に勝つ力を条件とするものではないからだ。国籍を条件とするものでもない。AIについて意見を求められることのめったにない人々が、この会議の委員として席に着くことになる。若者、農村に暮らす人々、読み書きのできない人々、インターネットにつながっていない人々、そして自国政府が決して送り出そうとはしない人々だ。

もちろん、くじ引きをしたからといって、千人がたちまち人類を正統に代表する機関になるわけではない。この会議は、その手続きと熟議において模範となることで、道徳的権威を勝ち取らなければならない。そして法に基づく諸機関が、みずから進んでこの会議を認め、会議に対する義務を引き受けていくにつれて、その道徳的権威は政治的正統性へと固まっていく。

其中，回應義務是關鍵所在。大會的每一項建議，都將送交一個指名的機構——例如某個實驗室或政府——並訂有公開回應的期限：接受什麼、拒絕什麼，以及理由何在。任何人都可以對公開的拒絕提出質疑。這項義務必須事先以法律或可強制執行的協議訂定，因為如果收到建議的一方可以置之不理，邀請大會提供建議便毫無意義。

已經有一個法域具備這類執法權力。自今年 8 月起，歐盟人工智慧辦公室（AI Office）可以對前沿模型的提供者處以罰款，或下令採取緩解措施，甚至召回模型。Anthropic、OpenAI、Google 與 xAI 都已簽署《通用 AI 行為準則》中的「安全與保安」章節，這份準則具體說明了怎樣才算合規。依照這份準則，每個實驗室自行定義風險等級、自行判斷其風險是否可以接受，並依照自己公布的標準，挑選自己的外部評估者。

其中，“回应之义务”是关键。大会的每一项建议都对应一个被点名的机构（例如某个实验室或某个政府），并附有公开回应的期限：接受什么、拒绝什么、为何。任何人都可对已公开的拒绝提出质疑。这份义务须由法律或可执行的协议提前锁定，因为若受邀者可以随意忽视，那么“欢迎建言”就毫无意义。

有一个法域已经握有此类执行权。自今年 8 月起，欧盟 AI 办公室可以对前沿模型提供者处以罚款，或责令采取缓解措施、乃至下架。Anthropic、OpenAI、Google 与 xAI 都已签署了行为准则中的“安全与保障”章节，其中详细规定了何谓合规。依据该章节，各实验室自定风险等级、自行判断其风险是否可接受，并按自己公布的标准挑选自己的外部评估者。

なかでも鍵を握るのが、回答義務である。会議の勧告は一つひとつ、ラボや政府など名指しされた機関に送られ、公の場で回答すべき期限が付される。何を受け入れ、何を拒むのか、そしてそれはなぜか。公表された拒否に対しては、誰もが異議を申し立てられる。この義務は、法律か強制力のある合意によって、あらかじめ定めておく。受け取った側が無視できるのなら、助言を求めても意味がないからだ。

この種の執行権限を、すでに持っている法域がある。今年8月以降、EUのAIオフィスは、フロンティアモデルの提供者に制裁金を科したり、リスク緩和措置やリコールを命じたりできるようになった。Anthropic、OpenAI、Google、xAIはいずれも、何をもって法令遵守とするかを具体的に定めた汎用AIの行動規範のうち、「安全性・セキュリティ」の章に署名している。この章のもとでは、各ラボがリスクの段階を自ら定め、自社のリスクが許容できるかどうかを自ら判断し、自ら公表した基準に照らして、外部の評価者を自ら選ぶ。

但在這套制度下，各實驗室向監管機關提交完整報告，公眾卻只拿得到摘要，而且僅限於「如有必要，並以必要範圍為限」。在實驗室可用來蒐集資訊的八種方式中，公眾諮詢敬陪末座，還排在網路搜尋與市場分析之後。迄今法律上最完備的安全制度，依然只把公眾當成一項輸入，而非當事的一方。

我們的提案，則會讓全球公眾成為當事的一方，而歐盟可以讓這一點具有強制力：只要在修訂後的行為準則中加入一項條款，要求簽署方公開回應全球公民大會的建議，回應義務就有了第一個法律錨點——而且是在一個沒有任何前沿實驗室承擔得起退出的市場。

然而在这套体系里，每家实验室向监管者作完整汇报，而公众只拿到摘要——而且是“仅在必要范围内”。公众咨询在实验室可采用的八种信息收集方式里被排在最后，位列网络搜索与市场分析之后。迄今为止最成熟的法律安全体制，仍将公众视为一种“输入”，而不是一方当事人。

我们的提案要让全球公众成为一方当事人，欧盟则可以让这份地位具有执行力：在修订后的行为准则中加入一项条款，责成签署方公开回应一场全球公民大会的建议，就能为“回应之义务”提供其第一个法律锚点——而且是设在一个没有任何前沿实验室敢于退出的市场里。

だが、この仕組みでは、各ラボが規制当局には完全な報告を行う一方で、市民が受け取るのは要約にすぎず、それも「必要な場合に、必要な範囲で」に限られる。ラボが情報を集める八つの方法のなかで、市民への意見聴取は最後に置かれ、ウェブ検索や市場分析よりも後回しにされている。法制度として現時点で最も整った安全規制でさえ、市民を当事者ではなく、一つの入力として扱っているのである。

私たちの提案は、世界の市民を当事者にする。そしてEUは、それに強制力を持たせることができる。改訂される行動規範に、グローバル市民会議の勧告に公の場で回答するよう署名者に義務づける条項を一つ加えればよい。そうすれば回答義務は、初めて法的な拠り所を得る。それも、どのフロンティアAIラボにとっても手放すことのできない市場においてである。

那北京呢？中國共產黨一再譴責 AI 治理中的「排他性集團」——這幾乎毫不掩飾地影射美國主導的各種聯盟——並建立了自己的多邊框架，從它提出的「全球人工智慧治理倡議」，到今年夏天在上海成立的「世界人工智慧合作組織」。一個從各大洲抽籤組成的機構，是所有選項中最不受西方主導的論壇：光是按人口比例計算，大約每六個席次，就有一席屬於住在中國的人。

北京仍可能拒絕讓這些人入席。但大會不需要北京的許可，就能改變這場賽局。華府反對自我節制的理由，建立在「北京絕不會堅守崗位」這個說法上；而一個同時邀請雙方人民參與、並要求各國政府在它面前公開回應的常設機構，會讓這個說法變成可以檢驗的命題。

如果北京缺席，世界將會看見它「包容性治理」的說詞與實際作為之間的落差。如果北京參與——例如，讓依照大會所定規則審查過的評估者進入它自己的實驗室——那麼，這場獵鹿行動中最重要的兩位獵人，就同處一室了。

那北京怎么办？中国共产党屡次抨击 AI 治理上的“小圈子”——这是对美国主导的联盟一个若隐若现的指涉——并已建立起自己的多边框架，从“全球人工智能治理倡议”到今夏在上海成立的“世界人工智能合作组织”。一个由各大洲随机抽签产生的机构，是所有可能选项中最不“西方主导”的一个：仅按人口比例，大约每六个席位就有一个应当由生活在中国的人担任。

北京仍可能拒绝让这些人前来就座。但这场大会并不需要北京的许可才能改变博弈。华盛顿反对克制的论证，建立在“北京绝不会守住自己岗位”这一断言之上；一个双方公民都被邀请参加、并被邀请公开作答的常设机构，恰恰能把这个断言变成一个可被验证的命题。

如果北京缺席，世界就会看清它“包容治理”的辞令与它实际行为之间的距离。如果它参与——比如，让自己的实验室按大会所设规则接受经审核的评估者进入——那么这场猎鹿之行的两位最关键的猎人，就同处一间屋子里了。

では、北京はどうか。中国共産党は、AIガバナンスにおける「排他的な小グループ」を繰り返し非難してきた。米国主導の連合を、ほとんど隠そうともせずに当てこすった言葉だ。そして自ら提唱した「グローバルAIガバナンス・イニシアティブ」から、この夏上海で発足した「世界AI協力機構」まで、独自の多国間枠組みを築いてきた。あらゆる大陸からくじ引きで選ばれる機関は、考えうる選択肢のなかで最も西側の支配から遠いフォーラムである。人口比だけで見ても、およそ6議席に1議席は、中国に住む誰かのものになるのだから。

それでも北京は、この人々が席に着くことを拒むかもしれない。だが、この会議がゲームを変えるのに、北京の許可はいらない。自制に反対するワシントンの論拠は、北京は決して持ち場を守らない、という主張の上に成り立っている。双方の人々が招かれ、それぞれの政府がその前で公に答えるよう求められる常設の機関があれば、この主張は検証できる命題に変わる。

北京が加わらなければ、包摂的なガバナンスを掲げるその言葉と、実際の振る舞いとの隔たりに、世界は気づくだろう。北京が参加し、たとえば会議が定めたルールのもとで審査を受けた評価者に自国のラボを開くなら、鹿狩りで最も重要な二人の狩人が、同じ部屋にそろうことになる。

這項提案的關鍵環節，都已經有人試行過。根據經濟合作暨發展組織（OECD）的統計，世界各地已召開過 800 多個與我們提案相似的審議機構。全球層級上也有數個先例。2021 年，「COP26 全球大會」（Global Assembly for COP26）以全球地點抽籤的方式選出 100 人，在格拉斯哥氣候峰會之前審議氣候變遷議題。

由 Meta、史丹佛大學審議民主實驗室與行為洞察團隊（Behavioural Insights Team）共同舉辦的「元宇宙霸凌與騷擾社群論壇」（Metaverse Community Forum on Bullying and Harassment），於 2022 年 12 月召集了全球 9 個地區、32 個國家的 6,300 多人。2023 年，Anthropic 與集體智慧計畫（Collective Intelligence Project）邀請約一千名美國人，為 Anthropic 的一款模型起草原則。

2024 年 3 月，當時由本文作者之一執掌的臺灣數位發展部，與集體智慧計畫合作，隨機發送簡訊給 20 萬個電話號碼，邀集 447 人上線，審議 AI 與資訊完整性的議題。

这项提案的关键构件，已经被试验过。据经合组织（OECD）统计，全球已有 800 多个类似形式的审议机构被召集过。在全球层面亦已有若干先例。2021 年，“COP26 全球大会”通过全球定位抽签选出 100 人，在格拉斯哥峰会前就气候变化问题展开审议。

2022 年 12 月，由 Meta、斯坦福大学审议民主实验室（Deliberative Democracy Lab）与英国行为洞察团队（Behavioural Insights Team）联合举办的“元宇宙关于霸凌与骚扰的社群论坛”，在 32 个国家、全球九大区域集结了 6300 余人。2023 年，Anthropic 与集体智慧计划（Collective Intelligence Project）邀请约一千位美国公民，为 Anthropic 的一个模型起草原则。

2024 年 3 月，由本文作者之一领导的台湾数位发展部，与集体智慧计划合作，向 20 万个随机号码发出短信，最终邀请到 447 位公民上线，就 AI 与资讯完整性进行审议。

この提案の要となる部分は、すでに試されている。OECD（経済協力開発機構）によれば、私たちの提案に似た熟議の場は、これまでに世界で800以上開かれてきた。地球規模の先例もいくつかある。2021年には「COP26グローバル市民会議」（Global Assembly for COP26）が、地球上の地点をくじで選ぶ方式で100人を集め、グラスゴーでの会議に先立って気候変動について熟議した。

Meta、スタンフォード大学熟議民主主義ラボ、ビヘイビアル・インサイツ・チーム（Behavioural Insights Team）が運営した「メタバースにおけるいじめとハラスメントに関するコミュニティ・フォーラム」は、2022年12月、世界9地域・32か国から6,300人以上を集めた。2023年には、Anthropicと集合知プロジェクト（Collective Intelligence Project）が約1,000人の米国人に依頼し、Anthropicのモデルのための原則を起草してもらった。

2024年3月には、本稿の筆者の一人が率いていた台湾のデジタル発展部が集合知プロジェクトと協力し、無作為に選んだ20万件の電話番号にショートメッセージを送って447人をオンラインに集め、AIと情報の健全性について熟議した。

我們要如何從這裡走到那裡？不妨先從有意願者做起。

第一，由少數政府與基金會組成的小型聯盟，可以透過一個獨立的公民祕書處資助大會，並由祕書處按前述條件召集大會。光是這一步，就能創造出一個不受任何實驗室或國家掌控的協調焦點。

第二，Anthropic 已承諾讓進駐的評估者在不受其編輯控制的情況下發表結果，OpenAI 也已承諾跟進。兩家公司都可以更進一步：讓依照大會所定規則審查過的評估者進入實驗室，把這些評估者的發現轉交大會，並接受對大會的回應義務——公開留下紀錄、在固定期限內說明自己接受什麼、拒絕什麼，以及理由何在。

接受這些條件的實驗室，將大大有助於平息彼此之間的內層競賽，也會改變外層的競賽：華府的自我節制，將不再是單方面送給北京的禮物，而是一項經過驗證、附帶條件、在見證者面前提出的提議，並邀請北京加入。

第三，參與的實驗室現在就可以讓配速變得可以衡量。它們可以試行一項透明的安全研究預算，撥出 5% 至 20% 的算力，依公開的核算規則運作，同時對用於加速能力研究的算力設下明確上限——讓評估者有具體的東西可以查核。另一筆獨立的配額，則可用於資助公共用途的算力，由受影響的社群選擇專案、評斷其價值。任何公共效益，都不能用來換取對安全界限的違反。

从“这里”到“那里”，路径何在？我们可以从愿意者开始。

第一步，一小群政府与基金会可通过一个独立的公民秘书处出资召集这场大会，按上述条款运作。仅此一举，就足以确立一个没有任何实验室或国家能掌控的焦点。

第二步，Anthropic 已承诺让驻场评估者不受其编辑控制地发表结论，OpenAI 也答应跟进。两家都可以再走远一些：按大会所设规则向审核过的评估者开放自己的实验室，把评估结论汇入大会，并承担“公开回应大会”的义务，在固定期限内如实说明：接受什么、拒绝什么、为什么。

接受这一点的实验室，将大大有助于平息它们之间的内层竞赛，并改变外层竞赛：华盛顿的克制将不再是单方面送给北京的礼物，而是一个经过验证的、有条件的邀约，在见证者面前提出，等待北京加入。

第三步，参与的实验室可以让“定速”即刻可量化。它们可以在公开的会计规则下，试点将算力的 5% 到 20% 投入透明的安全研究预算，同时对用于加速能力研究的算力设置明确上限——这样评估者就有了具体、可核对的东西。另一笔单独的算力配额，可用于资助公共用途的运算，由受影响的社区自行挑选项目、自行判断其价值。任何公共利益的收益，都不得以突破安全上限为代价来换取。

では、ここからそこへ、どうたどり着けばよいのか。まずは有志から始めればよい。

第一に、少数の政府と財団からなる小さな連合が、独立した市民事務局を通じて会議に資金を出し、事務局が先に述べた条件で会議を招集する。それだけで、どのラボにもどの国家にも支配されない焦点が生まれる。

第二に、Anthropicは、社内に常駐する評価者が同社の編集上の管理を受けずに結果を公表することを認めると約束しており、OpenAIもこれに続くと表明している。両社はさらに踏み込める。会議が定めたルールのもとで審査を受けた評価者にラボを開き、その評価者が見つけたことを会議へ回し、会議への回答義務を受け入れるのだ。記録に残るかたちで、定められた期限内に、何を受け入れ、何を拒むのか、そしてそれはなぜかを明らかにして。

これを受け入れたラボは、ラボ同士の内側の競争を収めるうえで大きく前進し、外側の競争をも変えることになる。ワシントンの自制は、もはや北京への一方的な贈り物ではなくなる。立会人の前でなされる、検証済みの、条件付きの申し出となり、北京もそこに加わるよう招かれるのだ。

第三に、参加するラボは、ペースの調整をいますぐ測れるものにできる。公表された会計ルールのもとで、計算資源の5〜20%を充てる透明な安全研究予算を試行し、あわせて能力研究の加速に使う計算資源には明確な上限を設ける。そうすれば評価者は、確かめるべき具体的な対象を手にする。これとは別枠の配分で公共目的の計算資源をまかない、影響を受けるコミュニティ自身がプロジェクトを選び、その価値を判断することもできる。ただし、どんな公共の利益も、安全上の限界を破ることと引き換えにはできない。